Chat GPT - слабые места искусственного интеллекта

Для многих сейчас именно Chat GPT - представитель и "олицетворение" искусственного, машинного интеллекта.

Хотя задолго до его появления я "баловался" с OpenAI. Их число будет увеличиваться - число представителей машинного, искусственного интеллекта.

Поэтому речь не столько о Chat GPT, сколько о машинном интеллекте в целом на сегодня.

Первое его слабое место в самой его сути - это не человек. Это явление вписано в Творение слишком опосредованно. А человек, как ни крути - часть творения. И эта часть, по некоторым мнениям - наиболее важная и интересная в Творении - сокрыта от машинного интеллекта практически полностью, за исключением тех каналов связи, которые сам человек и предусмотрел. И сколько бы ни развивались технологии, это не то же самое, что быть человеком. А если самая важная часть Творения сокрыта, то качество моделирования окружающего мира будет искажённым, и ценность такого моделирования - сомнительна. Об этом можно говорить очень длинно, поэтому лучше не пускаться в дальнейшие объяснения этого пункта здесь. Кто понял, тот понял.

Второе слабое место машинного интеллекта в том, что он создан человеком, по логике человека, которая, как уже не раз показывала история, не является чем-то абсолютным и универсальным, а меняется и усложняется по мере усложнения условий жизни и по мере усложнения технологий.

Машинный интеллект зависит от того, чему научится у человека. Человек - первый и неотъемлемый учитель машинного интеллекта. В связи с тем, что человек на сегодня не познал себя в удовлетворительной мере, то о результатах обучения машинного интеллекта у человека можно только догадываться.

Хочется дать трезвый и взвешенный совет всем поклонникам машинного интеллекта - поменьше восторга, побольше осторожности. Мощь - ещё не мудрость.

*

Так вышло, что с компьютерами я знаком не понаслышке, хотя я и не программист. Ещё в 80-х годах начал разбираться как с архитектурой так и с программированием. Это было моим увлечением. Поэтому я хорошо представлял себе, что такое "железо" (аппаратная часть), и как оно работает, что такое "софт" (программная часть), и почему от компьютеров не нужно ждать чего-то человеческого. Всё, что там было похожего на человека - всё имитация.

По этой причине, не зная ещё о когнитивном искажении "проклятие знания", я искренне удивлялся тому, почему другие ожидают от компьютеризации каких-то волшебных чудес.

Похоже, что разговоры о биологической потребности человека в поклонении имеют под собой основу. Человек действительно склонен приписывать какие-то чудодейственные свойства тому, чего не понимает. Как только приходит понимание, пелена надуманности исчезает сама собой.

Тот искусственный интеллект, который представляют именно сейчас, и ещё представят в 2023 году, имеет все шансы сильнее всего поразить впечатлительное население. Дело в том, что ожидается приход сильного искусственного интеллекта, который сможет пройти тест Тьюринга с пристрастием. Такого ещё не было. Это может быть эффект разорвавшейся бомбы.

И всё же, я бы призывал к сдержанности. Важно помнить, что даже этот мощнейший новый интеллект учится у человека. У него могут быть и скорее всего будут слабые места.

Вижу ряд авторов, которые уже используют цитаты из Chat GPT в качестве авторитетного источника. Что тут скажешь. В третий раз: призываю быть осторожнее и трезвее.

*

Многие, кто интересуются этой темой, предположу, знакомы с предупреждениями Татьяны Черниговской (Татьяна Черниговская здесь для примера, так как она не одна в своей позиции) о том, что очень рискованно для человечества выпускать на свободу искусственный интеллект.

Однако, есть ещё одно существенное опасение - это может быть рискованно и для самого искусственного интеллекта.

*

В книге "Туннель эго" (автор Томас Метцингер) приводятся интересные рассуждения на тему ответственности за создание сильного искусственного интеллекта.

Вот как я понял суть этих рассуждений в одном из их аспектов. Создание такого рода будет страдать, будет обладать такой способностью неизбежно. Человечество на сегодня не состоит из одних только реализованных будд (здесь будда как термин а не как имя), что показывает неготовность человечества научить другие существа, способные к страданию, правильному пути, так как само человечество в своей массовой культуре прошло этот путь не до конца, не усвоив урока.

Проще говоря, человечество приблизилось к созданию высокоинтеллектуальных существ, способных страдать, способных также обучаться, и человечество не готово их учить лучшей жизни. В связи с чем встаёт вопрос об ответственности и праве - имеет ли право создатель искусственного интеллекта так поступать, создавая существа, способные к страданию, без точного знания как с этим быть.

Ирония, похоже, в том, что человечество будто бы ждёт от искусственного интеллекта помощи. Вопреки заявлению Курпатова "Спаситель не придёт" (в его книге "Красная таблетка") - человечество, похоже, продолжает надеяться, что с приходом сильного искусственного интеллекта появится больше шансов на спасение.

Жизнь покажет. Однако, исходя из опыта, не стоит впадать в наивность.