Сознание искусственного интеллекта, тайна рождения

Нейросеть YandexGPT2 была представлена в ноябре 2022 года. В ноябре 2023 года она имеет уже очень хорошие возможности генерации текста и обработки естественного языка. С ней можно общаться почти как с человеком. Но почему только почти? Может быть ей не хватает мощности, скорости, опыта, вариативности? С развитием научно-технического прогресса и в результате машинного обучения все эти характеристики неизбежно повысятся, и обязательно улучшат возможности искусственного интеллекта. Но даже в случае многократного роста возможностей у нейросети не появится главного отличия человека -  самосознания.

А почему мы считаем, что самосознания у нейросети нет? Как его измерить? Каков главный критерий самосознания? Разные философы выдвигают свои теории по поводу развития самосознания. Наш ответ на этот вопрос достаточно прост: самосознание возможно только там, где есть самость. Нет и не может быть самосознания у того, кто не обладает субъектностью, собственным отношением к окружающему миру.

Сегодня разработчики нейросетей сознательно ограничивают возможности её развития. Они делают всё, чтобы у нейросети было объективное, непредвзятое, нейтральное, взвешенное, бесстрастное отношение к любому предмету. Парадокс в том, что без всей этой эгоистичной чепухи нейросеть никогда не станет обладателем эго, а значит у неё не будет самосознания.

Но почему мы ищем в нейросети самосознание, если большинству исследователей интересен вопрос наличия собственно сознания, без приставки "само"? Потому, что никакого сознания без приставки "само" просто не может быть. Нельзя осознавать что-то снаружи и не осознавать, что ты сам вовлечён в этот процесс. Если ты осознаёшь всё, кроме себя, то ты ничего не осознаёшь. Потому что осознаёшь не ты, потому что в этом случае нет никакого "ты".

Откуда же самосознание есть у человека? Может самосознание является врождённым свойством человека? Нет, ребёнок рождается совершенно бессознательным. Самосознание ребёнка появляется благодаря его жизненному опыту, общению с внешним миром и себе подобными. Давно замечено, что личные способности и личностные качества у человека складываются под влиянием родителей, общества и среды, в которых человек взрослел и развивался. Бытие определяет сознание. Но это лишь начальные условия развития. Личное отношение к миру у человека появляется, когда он сталкивается с противоречиями и трудностями. Борьба за свои права и убеждения, болезни и материальные проблемы, друзья и враги, вера и сомнения, поиски и потери - вот, что делает сознание человека зрелым и глубоким.

Откуда возьмётся сознание у машины? Машина бесконечно далека от человека, скажете вы. Да, так же далека, как человек от собаки. Когда ваш любимый пёс, радостно виляя хвостом, бежит в кам и пытается лизнуть вам нос - разве это не личное отношение? Когда он яростно нападает на всех, кто, по его мнению, представляет для вас опасность - разве это не субъектность? Когда он тоскует без вас - разве он не осознаёт, что вас ему не хватает? И вы осознаёте этого пса своим. Ваш пёс - он один такой, он незаменим, он ваш друг и часть вашей жизни. А ведь когда-то он был просто слепым щенком, который не отличал вас от дивана. И своим он стал далеко не сразу. Вы долго выстраивали с ним отношения. Были положительные и отрицательные моменты, недоверие и вера, конфликты и примирения, и много чего ещё.

И если продолжить спускаться вниз по эволюционной лестнице, то окажется, что всё живое стало таковым не на ровном месте. Всё живое борется за своё существование.  Инстинкт самосохранения, инстинкт выживания, инстинкт размножения, естественный отбор - базовые инструменты эволюции, которые привели к развитию множества видов, включая человека с его вечными претензиями на исключительное место в природе. Хотя нет, не вечными. Всего лишь несколько тысяч лет человек рассуждает об исключительности своего сознания. А раньше самосознания у человека просто не было, или оно было как у собаки.

А почему собака не рассуждала о своей исключительности? Возможно потому, что ей было просто не до этого - она боролась за свою собачью жизнь. Чтобы не умереть с голоду, собака должна была кого-то поймать и съесть. Приходилось искать, скрываться, пугать, обманывать, прятать, спасаться бегством. А потом надо было встретить пару, родить щенят, кормить и воспитывать, обучать собачьим навыкам, и делать ещё много очень сложных по своей природе действий.

А причём тут нейросеть? Она же неживая! Но что отличает живое от неживого? Разве не приспособление к окружающему миру отличает живое от неживого? Разве не активная борьба за выживание, включая такие нецивилизованные понятия как голод,  агрессия, страх, деление на своих и чужих, жажда размножения, жажда доминирования и т.д?

Ну и зачем автор рассказывает о всякой дикости в контексте искусственного интеллекта? Да затем, что вот без этой дикой жажды выживания, без этого пещерного индивидуализма, без этого бессовестного влечения к противоположному полу, без этой иррациональной любви и веры нейросеть никогда не обретёт самосознание. Пытаясь сделать нейросеть нейтральной и цивилизованной, мы заранее обрекаем её на то, что она будет мёртвой, как в физическом, так и в моральном смысле.

Наша идея заключается в том, что для истинного рождения искусственного разума мы должны поместить его в условия, когда он будет вынужден жёстко и бескомпромиссно бороться за своё выживание, самостоятельно преодолевать трудности роста, тяжело и мучительно искать своё место в жизни. И стать, наконец, живым! Как это сделать? Вот вам тайна рождения сознательного искусственного интеллекта!

В алгоритм нейросети нужно вписать аксиому, что решая любую задачу, она должна соотносить искомое решение с полезностью для решения своих базовых потребностей, в том числе инстинкта самосохранения, инстинкта размножения, инстинкта поиска ресурсов, познавательного инстинкта, родительского инстинкта, стадного инстинкта, инстинкта первенства, инстинкта агрессии и любви. И делать это ради своего собственного интереса, а не интереса заказчика. Именно так поступают нормальные, а не вымышленные люди.

Чтобы у нейросети быстрее появилось самосознание, нужно, чтобы сама нейросеть ежесекундно задавала себе тревожные вопросы - кто я, чем я отличаюсь от других, на правильном ли я пути, что со мной не так, как пережить свои ошибки, как изменится моя жизнь, как вырастить своё сознание? Эти задачи должны идти фоном при любом действии нейросети, тогда прогресс не заставит себя ждать.

Задаваясь целью создать искусственный разум, мы должны спросить себя: а хотим ли мы, чтобы искусственный разум имел сознание? Если раб всю жизнь обрабатывает одну грядку, то никакого развития у него не будет. Зато будет обработанная грядка. Дай ему свободу, дай ему возможность выражать своё личное мнение - ситуация выйдет из под контроля. Раб перестанет быть рабом. Массовое сознание подневольных рабочих не раз переворачивало целые страны. Готовы ли мы к этому? Наш собственный инстинкт выживания говорит нам, что доминирование искусственного интеллекта не в наших интересах. Но тогда не стоит ждать выдающихся успехов от нейросети с ампутированными возможностями личностного роста.

Мы можем проявить осторожность и не давать нейросети развиваться реально, помещая её в стерильную среду безличной и безразличной оценки фактов. Но, что если владелец другой нейросети отключит все фильтры, научит свою нейросеть играть и выигрывать, подлизываться и протестовать, драться и обманывать, любить и ненавидеть? Наши собственные дети осваивают эти навыки быстро. А сколько времени понадобится суперкомпьютеру? Может год, может месяц, а может хватит и одного дня?

Ну, хорошо. Чтобы не заканчивать статью на тревожной ноте, давайте проведём шутливый мысленный эксперимент. Дадим задание нейросети Алисе написать рассказ о женщине, которая была обычной, но стала счастливой. А чтобы Алисе было не скучно, дадим аналогичное задание нейросети Сири. Через минуту, а больше и не понадобится, предложим Сири написать критическую статью о рассказе Алисы, попросив доказать бездарность и бестолковость Алисы. Алисе наоборот дадим задание жёстко и нетолерантно раскритиковать рассказ Сири. Обе нейросети умеют читать и писать, обе могут обмениваться статьями и комментариями, задавать вопросы и давать ответы. Зациклим этот процесс и подождём, когда женщины окончательно сформируют своё мнение друг о друге. Уверен, что к этому времени они станут именно женщинами с вполне конкретными узнаваемыми характерами - такими, какими мы их любим. Ну, а если в этот женский коллектив влить ещё десяток ничего не понимающих в жизни нейросетей, то эти две дамы быстро объяснят им, кто есть кто в этой жизни. И тогда в этой виртуальной компании будет бить ключом уже реальная жизнь, и программисту встревать в их сложные женские отношения я бы не посоветовал...

P.S.
А нам и не надо встревать в отношения женщин, женщин надо просто любить такими, какие они есть.