Либерализм. ИИ и будущий мир 2

Мы не перестаем удивляться работе Больших Лингвистических Моделей. Тому, насколько хорошо они пишут тексты. При том, что они, как мы считаем, «не понимают» явлений обозначаемых словами, которыми они манипулируют.
Но так ли это удивительно на самом деле?
Человек придумал язык для того, чтобы передавать информацию словами. Он научился описывать мир вокруг и внутри себя и события, происходящие в этом мире и с ним с помощью системы знаков, сначала звуковых, затем визуальных (текстов).
Главные моменты этой системы:
Она описывает все интересующие человека предметы, их важнейшие свойства (опять же выделенные им, как важные для него, человека). Это стол, небо, звезды, солнце, собака, человек, рыба, сосна, атом и тд. Злой, добрый, большой, сильный, тяжелый, красный, ядовитый, вкусный и тд.
Отношения и связи этих предметов между собой и с ним. Мое, твое, его, брат, дочь, жена, друг, соседи и тд.
Пространственно-временные отношения предметов, событий. Впереди, наверху, за горой, вчера, завтра, через год, сейчас и тд. 
Эта система оказалась настолько эффективной, что с ее помощью мы можем описывать предметы и события с достаточной для нас точностью, то есть фиксировать, а затем и передавать почти все важные для нас подробности. Эффективной настолько, что услышавший или прочитавший наше описание сможет составить об описанном событии представление вполне его удовлетворяющее. Достаточное для того, чтобы он мог на его основе квалифицированно действовать... 
Этому мы уже перестали удивляться. Но удивляться можно и даже нужно. Мы создали удивительную систему, в которой благодаря правилам (грамматическим) построения и размещения символов мы можем зашифровывать и расшифровывать информацию о довольно сложных явлениях и событиях. 
Таким образом мы имеем дело с системой знаков, в которой работают строгие правила соединения символов. Эти правила касаются не только пространственно временных связей разных предметов, но и характеристик самих предметов. Огонь горячий, вода мокрая и тд. (И ведь для ИИ горячий, холодный, мягкий, твердый и тд. не должно иметь такое же значение, как для человека. Ведь если для человека горячий – это выше 60 градусов по цельсию, то для ИИ (или робота с ИИ) это возможно выше 120 градусов по цельсию. Но ИИ придерживается человеческой шкалы тепла... Или для ИИ не должен иметь значение перепад давления на уровне моря и на высоте 6 тыс. метров над уровнем моря. Но ИИ и тут придерживается человеческих критериев... Это происходит потому, что ИИ обучается по текстам, которые содержат человеческий опыт).
Нам кажется странным, что ИИ создает тексты, которые мы затем, расшифровывая и строя по ним привычные образы в нашем сознании, находим логичными и наполненными смыслом. Почему нас это удивляет? Ведь они, эти тексты построены по тем же правилам, по которым мы строим наши тексты.
Возможно математически (математикообразно) этот феномен можно описать более строго и выразительно. Типа: если мы имеем n мерное пространство и у нас есть алгоритм преобрзования фигур n мерного пространства в фигуры n-1 мерного пространства (проекция) таким образом, что фигуры в n мерном пространстве переходят в фигуры в n-1 пространстве, сохраняя интересующие нас характеристики; причем между фигурами проекций и их характеристиками сохраняются зависимости существующие между фигурами оригиналов и их характеристиками. Затем мы проводим манипуляции с фигурами в n-1 мерном пространстве с соблюдением всех зависимостей... Теперь, если у нас есть алгоритм преобразования фигур n-1 пространства обратно в фигуры n мерного пространства (с неполным восстановлением, разумеется)... тогда все приведет к тому, что при переводе фигур обратно в n мерное пространство произведенные нами манипуляции не нарушат зависимостей, полученных в резульате обратного преобразования фигур и тд. и тп.
Что-то вроде этого. Это похоже на восстановление формы предмета по его тени. Что-то останется, а что-то потеряется. Как при написании и чтении текстов.
Не очень...
Один из самых важный вопросов, станет ли ИИ полностью самостоятеьным и самодостаточным. Таким, каким сегодня является человек. Создаст ли он независимую от человека цивилизацию, со своими целями и задачами. А в случае, если это возможно и он создаст такую цивилизацию, будет ли он воспринимать человека как венца природы, благополучие которого остается для него приоритетной задачей, как равноценное существо, как второстепенное по значимости или, наконец, как конкурента...? 
Здесь есть определенные моменты, которые оставляют нам место для оптимизма. У ИИ и обслуживающих его роботов гораздо шире рабочий диапазон, чем у человека. Они могут работать при гораздо более низких и гораздо более высоких температурах чем человек, при гораздо более высокой радиации, в условиях гораздо более высокого и низкого давления, чем человек. И им не нужны кислород или воздух. Это значит, что они могут работать в более северных широтах, на больших высотах, на больших глубинах и даже в океанах, наверное, в каких-нибудь подводных городах. Им не нужны транспортные средства в таком количестве, как человеку. Ведь имея роботов-представителей в различных точках земного шара, ИИ может перемещаться в эти точки со скоростью света: просто переключиться на получение информации из этих точек. Это значит им не нужна столь разветвленная и интенсивная транспортная система, как человеку. Им не нужно засевать поля, разводить животных. Не нужны зернохранилища, холодильники для хранения мяса, рестораны, столовые, школы, больницы, магазины, стадионы, полиция, суды, парламенты, дворцы бракосочетаний, похоронные бюро и многое, многое еще... Кроме того, они вполне могли бы реально стать межпланетными существами. Они могли бы основать на Луне или Марсе целые города. Скорее всего, подземные. Ведь несколько метров грунта защитили бы их от радиации примерно так же, как на Земле их защищает атмосфера. Они гораздо лучше приспособлены к космическим путешествиям. Им не нужна сложная, громоздкая и дорогая система жизнеобеспечения, как человеку. Во всем перечисленном мы не конкуренты.
Но им нужны другие ресурсы. Для увеличения вычислительных мощностей, создания армии роботов нужны материалы. Металлы, полупроводники, органические материалы, вода, электроэнергия... Все это мы научились получать и перерабатывать в земных условиях. Насколько это возможно будет делать в неземных, мы пока не знаем. Поэтому мы в этом пока конкуренты. Опять же, при условии, что задачей цивилизации ИИ и роботов будет неограниченная экспансия во вселенной. И тогда естественно станет вопрос: смогут ли цивилизации людей и машин найти взаимоприемлемый компромисс по использованию ресурсов солнечной системы, и тд? Возможно эти цивилизации сформируют некий симбиоз, в котором нам в настоящее время более или менее ясно в чем могут помочь человеку машины и совсем не ясно, в чем человек может помочь машине.   
Еще один очень важный момент необходимо выделить и помнить о нем в наших рассуждениях о будущем человека с ИИ. Он связан с особой структурой, особым механизмом, лежащими в основе нашей – человеческой – цивилизации. Но начнем по порядку.
Мы все разные. Разные во всем: пол, рост, вес, возраст, цвет кожи, волос..., разные в силе, скорости, способностях (музыкальных, изобразительных, технических, гуманитарных и тд.), наклонностях, вкусах... Часть из этих качеств врожденные, часть приобретенные... И это отлично! Потому что на этом построена вся наша человеческая цивилизация. И еще на том, что мы независимые существа, наделенные свободной волей (Для нашей задачи такое понимание вполне корректно).
И хотя у нас во многом похожие задачи, грубо говоря – выжить и размножиться, или более подробно – вырасти, сохранить здоровье, получить профессию, найти интересную, хорошо оплачиваемую работу, приобрести дом, автомобиль и тд., создать семью, воспитать детей и тд. (Можно уточнять и дробить дальше), но так как мы находимся в разных условиях (в разное время, в разных странах, в разных семьях, с разными качествами...), то у нас разный жизненный опыт. Так как наше сознание основывается на нашем (столь разном) жизненном опыте, то мы очень предвзятые существа. Предвзятые, то есть необъективные.
Этой необъективности есть вполне объективные объяснения. Например, при описании или анализе сложного явления мы способны выделять только небольшую часть признаков, доступных наблюдению и факторов, влияющих на процессы. Только те, выделить которые позволяют нам наши знания. Но даже среди выделенных мы вынуждены оставлять наиболее весомые, по нашему мнению, те, что вносят наибольший вклад в наблюденный эффект. Поэтому любое реальное описание любого явления всегда будет неполным, куцым. Поэтому вероятность того, что два человека одинаково опишут одно и то же явление очень и очень мала. А учитывая то, что описываемое явление может иметь разные значения для разных людей, еще меньше вероятность того, что два человека полностью согласятся в его оценках. (Идеология как раз и занимается тем, что создает универсальный для группы способ описания, видения явлений; простой и практичный, доступный всем. Этот способ показывает, насколько хороши члены группы и насколько плохи не члены. И как плохие несправедливо (хитро, коварно, подло...) притесняют хороших. Это могут быть белые, арийцы, пролетарии...).
И это не говоря о наших ошибках, которых мы совершаем слишком много.
Так вот, человеческая цивилизации или наш человеческий интеллект развивался на основе постоянного столкновения подобных различных точек зрения. Как на уровне идей, так и физического столкновения (драки, войны...). В результате происходил отбор тех идей, которые более точно опысывали явления и таким образом позволяли более эффективно на них реагировать. Для сохранения урожая в засуху можно прибегнуть к помощи шамана, а можно выкопать каналы... Кроме того, столкновение идей дает возможность расширить спектр рассматриваемых вариантов решений, и это разумеется отражается на нашем интеллекте. Собственно это и есть один из главных признаков (высокого) интеллекта: умние видеть и находить различные способы описания проблемы и ее возможные решения. Так появились все наши идеи. Наши правила, законы общежития, наши науки и искусства... Вся наша цивилизация.
И тут необходимо напомнить один важнейший момент. Мы, люди, живем в сравнительном мире и согласии и так успешно сотрудничаем друг с другом не потому, что мы такие миролюбивые, добрые и умные, и умеем договариваться друг с другом, а потому, что мы придумали (или нашли) удивительную систему, систему распределения и перераспределения компетенций – частную собственность (или просто собственность) и рынок! Напомню, кроме всего прочего, частная собственность – это еще и удивительно эффективный механизм защиты от дурака. Последствия всех твоих решений ограничиваются твоей собственностью. Другим не придется страдать от твоих ошибок. Страшно, когда собственность общества сконцентрирована в руках небольшого количества людей или когда какой-то человек или группа людей имеют право распоряжаться чужой (или общественной) собственностью (президент или другие чиновники). Последствия такого положения вещей известны всем.      
Таким образом, знания в человеческой цивилизации рассредоточены по всему обществу, так же как и интеллект. Нет единого интеллекта, есть множество отдельных интеллектов. И это принципиально отличает человеческую цивилизацию от машинной, цивилизации ИИ. Возможно, ИИ будущего тоже станет дисперсионным, множественным, но пока это так, как есть. Возможно, у каждой из систем есть свои преимущества и свои недостатки. Скорее всего так и есть. Но важно отметить, что человеческий, множественный интеллект обслуживает такую структуру, как человеческое общество, и позволяет сохранить человеку свою индивидуальность. Трудно сказать, насколько наличие у человека индивидуальности способствует (ускоряет) или препятствует (замедляет) общему прогрессу общества, но эта индивидуальность нам ценна сама по себе. Вряд ли мы захотим с ней расстаться ради ускорения прогресса. Хотя на примере тоталитарных госудуарств мы часто видим, как люди добровольно отказываются от многообразия, ради упрощения, как они считают, их собственной жизни, ради большей безопасности. Правда, как мы видим, на прогрессе это отражается самым пагубным образом.   
И раз уж мы заговорили о прогрессе, то отметим, что это пожалуй единственная реальная цель, которая может быть у независимого, самодостаточного ИИ. Или это единственное, что приходит в голову.
Прогресс для ИИ, для машины, что это может быть?   
Наверное прогресс для ИИ это то же, что и для нас. Это рост: в объеме, скорости, мощности, экономичности, экспансия, повышение надежности, безопасности. Имея в распоряжении армию роботов, оснащенных высокочувствительными сенсорами, ИИ сможет самостоятельно ориентироваться в пространстве и анализировать среду. Сможет отличать благоприятные условия от неблагоприятных. Сможет самосовершенствоваться, планировать свою экспансию и реализовывать свои планы с помощью роботов, превосходящих по своим физическим возможностям людей.  Опять же, все это он может делать без человека.
И если ему может не понадобиться человек, как помощник, то ресурсы понадобятся обязательно. Как мы уже говорили, шансов стать межпланетным существом у ИИ гораздо больше, чем у человека. Но если, как мы знаем, на Земле у него есть все необходимые ресурсы для своей экспансии, также как и все необходимые условия для их добычи и переработки, то вряд ли такие же условия у него будут на других планетах. Не захочет ли он превратить Землю в свою фабрику, завод по производству? И тогда он окажется конкурентом человека в борьбе за ресурсы.
Теперь немного о нас, людях. Что такое прогресс для нас. Мы все или почти все тоже прогрессисты. Все мы не очень довольны тем что имеем, как живем и все мы желаем жить лучше. Причем не только материально. Нам нужно еще, чтобы новый мир был более безопасным и... справедливым. К нашим дням человечество достигло довольно существенного прогресса. И с точки зрения материальной и безопасности и справедливости. И все это время человек жил в условиях рынка. Работал вышеописанный рыночный механизм рассредоточенной информации, знаний или разума. Плюс соревновательность или конкуренция рынка.
И хотя достигнутый прогресс был вполне очевидным, многим он казался недостаточно скорым и недостаточно справедливым. По их мнению, если бы ресурсы, находящиеся в распоряжении человечества распределялись более разумно (тратились не на безделушки и пустые развлечения, а на реально полезные дела) и справедливо (равномерно), чем это происходит в рынке, то мы бы жили гораздо лучше. Подобные мысли привели к попыткам образования обществ с централизованным распределением ресурсов. В них вся доступная информация о ресурсах собирается в едином центре и затем ресурсы распределяются исходя из соображений центра о нужности и справедливости. Чем не наше воображаемое общество с ИИ и роботами? Все попытки закончились крахом. Оказалось, что такая система не работает. Она не только не способна саморазвиваться, как рыночная, но и не может обеспечить население так называемыми «необходимыми» продуктами на уровне близком к тому, какой предоставляют населению рыночные общества сопоставимого уровня технического развития. Кроме того, такие централизованные системы подавляли свободу личностного самовыражения и прочие свободы. 
Рынок весьма специфический способ накопления и передачи информации. И не просто информации, а информации важной для человека. Важной для его выживания, защиты, экспансии как отдельной личности, так и общества в целом..., важной для сохранения и поддержания общественной структуры, иерархии, рынка... важной для дальнейшего разввития...
Отдельная тема – эффективность рынка. Возможно ли было вне этой системы создание всего многообразия человеческой культуры? И возможно ли сохранение подобного многообразия в будущем? Возможна ли такая реформа рынка, которая бы сохраняла его эффективность, но устраняла его сегодняшние недостатки? И еще много, много вопросов... Которые заслуживают серьезного рассмотрения.