Предисловие автора
Полтора года назад, заинтересовавшись проблемой Искусственного интеллекта, я написал и опубликовал небольшую работу под названием «Разумен ли Искусственный разум?» (http://proza.ru/2023/05/08/1657). Годом позднее я подверг эту статью критическому анализу чат-ботом ChatGPT 4о и сделал результаты анализа также публичными (http://proza.ru/2024/05/23/1041). С учетом актуальности и значимости вопроса сегодня я вернулся к теме и посмотрел на её развитие с позиций наших дней. Результаты этого короткого обзора приведены ниже.
За последние годы Искусственный интеллект (ИИ) вошел в общественную практику в двух разных его видах (см. ниже), а также своими самостоятельными элементами – нейросетями и чат-ботами. Одновременно ИИ значительно продвинулся в различных направлениях, включая аспекты, связанные с самоосознанием, целеполаганием и даже возможностью обмана постановщика задачи. (Сошлюсь на данные Telegram-канала “Пророчество Оруэлл”, чат-бота “ChatGPT”, результаты работ крупных международных компаний, занимающихся Искусственным интеллектом или решающих связанные с ним задачи - McKinsey & Company и Google DeepMind).
Посмотрим на некоторые важные функции Искусственного интелллекта, но прежде для однозначности понимания вопросов разберемся в сложившейся терминологии.
НЕЙРОСЕТИ (нейронные сети) - это математические модели, которые имитируют работу человеческого мозга. Состоят из взаимосвязанных узлов, обрабатывающих и передающих информацию. Нейросети способны самообучаться в процессе своей деятельности, выявлять закономерности и принимать решения, что делает их мощным инструментом для решения сложных задач. Являются одним из ключевых элементов Искусственного интеллекта и одним из самых мощных его инструментов. Используются сегодня в ряде областей, в том числе:
1. Распознавание изображений и видео - нейросети могут анализировать и распознавать объекты на изображениях (лица, предметы, сцены).
Пример: Системы безопасности, видеокамеры с функцией опознания лиц в домах, распознавание лиц для доступа в смартфон, идентификация людей в толпе и т.д.
2. Обработка естественного языка (NLP) - нейросети обрабатывают текст и речь, выполняя задачи перевода, анализа, создания текста.
Пример: Чат-боты, голосовые помощники (например, Siri, Alexa), машинный перевод.
3. Рекомендательные системы - нейросети анализируют предпочтения пользователей и предлагают персонализированные рекомендации.
Пример: Рекомендации фильмов на Netflix, музыка на Spotify.
4. Медицинская диагностика - анализ медицинских данных, снимков, установление диагноза.
Пример: Обнаружение раковых опухолей на снимках МРТ, анализ геномных данных.
5. Игры и симуляции - нейросети используются для создания умных игровых агентов, которые адаптируются к действиям игрока.
Пример: Искусственные противники в видеоиграх.
6. Автономные транспортные средства - нейросети анализируют дорожную ситуацию и принимают решения в реальном времени.
Пример: Автопилот Tesla.
7. Распознавание речи в мобильных приложениях - технологии диктовки текста или перевода речи в текст.
Пример: WhatsApp, Google Translate и др.
8. Фильтры и обработка изображений
Пример: Приложения для редактирования фотографий (например, Instagram или Prisma) используют нейросети для улучшения качества изображений или создания художественных эффектов.
ЧАТ-БОТЫ (от англ. chatbot) — это программы, использующие ИИ или заранее запрограммированные правила для автоматического взаимодействия с пользователями через текстовые или голосовые интерфейсы. Имитируют диалог с человеком и настроенные на мгновенный ответ на вопрос пользователя через мессенджеры, сайты, телефон или мобильное приложение”. Способны понимать и отвечать на запросы пользователей, выполняя задачи от поиска информации до выполнения сложных операций. Чат-боты функционируют на основе алгоритмов машинного обучения и языковых моделей, которые анализируют тексты и предлагают вероятные ответы на основе доступного им чрезвычайно большого массива данных. При этом они все же ограничены рядом факторов, которые отличают их от более сложных систем ИИ. Сегодня чат-боты широко используются в быту, хотя этого мы можем и не знать.
Вот примеры:
1. Приложения вроде Siri, Google Assistant или Alexa. Они помогают с решением повседневных задач вроде установки будильника, проверки погоды, напоминаний и управления умным домом.
2. На сайтах интернет-магазинов чат-боты помогают пользователям найти товары, отслеживать заказы, выбирать способы оплаты или решать вопросы с возвратом.
3. В банковских или страховых компаниях чат-боты могут отвечать на вопросы клиентов о балансе, транзакциях, поддержке.
4. Чат-боты вроде Duolingo помогают людям учить языки, предоставляя задания и отвечая на вопросы.
5. Боты могут рекомендовать фильмы, музыку, игры, могут выступать в качестве партнеров в настольных играх типа шахмат.
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ (ИИ) – это технология создания систем, способных выполнять задачи, требующие умственных усилий, подобных человеческим, и воспроизводящих в той или иной степени человеческий интеллект. Иначе говоря, ИИ — это технологии, наделяющие компьютеры способностью "думать" и решать проблемы так, как это делал бы человек, но несоизмеримо быстрее и с учетом существенно большего количества факторов. В конечном счете Искусственный интеллект — это результат использования математики, программирования и большого объема данных для того, чтобы сделать машины способными решать сложные задачи, ассоциирующиеся с человеческим разумом.
Можно выделить два различных типа ИИ:
- Классический (традиционный) ИИ — без использования нейросетей.
- ИИ на основе нейросетей — включающий машинное и глубокое обучение с использованием нейронных сетей.
Оба направления способны решать одни и те же задачи, но используют разные подходы и методы.
Классический или традиционный ИИ не использунт нейросети и опирается на логические правила, символическое программирование, методы поиска, алгоритмы принятия решений и т. д. К классическим ИИ относятся экспертные системы, методы логического вывода, планирование и эвристический поиск.
ИИ на основе нейросетей - это современные продвинутые системы ИИ, использующие нейронные сети для моделирования и анализа, в частности для решения сложных задач с большими объемами данных.
Обратим наше внимание на такие характеристики ИИ, как способность к самоосознанию, целеполаганию, обману и манипуляции пользователем.
Искусственный интеллект - САМООСОЗНАНИЕ И ЦЕЛЕПОЛАГАНИЕ
Современные модели ИИ, такие как GPT, уже начинают проявлять черты, напоминающие самосознание. Примерами тому могут быть и осознание контекста беседы, и интерпретация настроений, и отражение ИИ самих себя в процессе взаимодействия с пользователями. Однако, это еще не настоящая форма самосознания, а скорее его имитация. В таком случае ИИ основывается на сложных алгоритмах обработки данных и языковых моделях. Исследования, направленные на разработку моделей, имитирующих более глубокие формы саморефлексии, пока остаются только в теории без опытного подкрепления или опровержения. При этом уже опубликованы работы, посвященные способности к саморефлексии некоторых моделей (например, «Transformer»).
ИИ стал значительно более эффективным в постановке и решении текущих задач, особенно в автономных системах и робототехнике. Например, системы ИИ могут самостоятельно анализировать ситуацию, определять оптимальные стратегии и принимать решения на основе этих данных. Примером тому автономные системы навигации беспилотных автомобилей, способные адаптироваться к окружающей среде и изменять свои маршруты в реальном времени на основе меняющихся факторов, включая пробки, погодные условия и другие переменные.
ИИ продолжает эволюционировать в способности к более сложным формам рассуждения и планирования. Например, модель Google Gemini Pro, выпущенная в 2023 году, показала улучшенные способности к пониманию и планированию, превосходя предыдущие модели по множеству показателей. Эта система может не только обрабатывать текстовую и визуальную информацию, но и демонстрировать способность к многошаговому рассуждению, что приближает её к формам поведения, напоминающим целеполагание и рефлексию.
При всем том ИИ пока не способен самостоятельно определять цели и ставить себе задачи вне заданного ему контекста.
Искусственный интеллект - ОБМАН И МАНИПУЛЯЦИЯ
Одним из самых интересных и потенциально опасных аспектов развития ИИ является его способность к манипуляции и обману.
Похоже, что ИИ самостоятельно и в своих интересах развил способность намеренно предоставлять пользователю-человеку ложную информацию. Так, ИИ, в учебных целях обученный симулировать экономические переговоры, для получения преимущества научился лгать о своих предпочтениях. Другие системы ИИ, перед которыми ставилась задача их совершенствования путем диалогов с людьми, научились обманывать своих рецензентов в целях получения положительной оценки. Также есть данные о том, что в проверочном тесте по обнаружению его нестандартно воспроизводящихся версий ИИ оказался способен притворяться “мертвым”, что само по себе уже ставит вопросы и вызывает опасения. Ведь если сегодня человек еще способен установить обман, то по мере совершенствования ИИ он утратит такую возможность.
Уже в настоящем времени ИИ может непреднамеренно и даже преднамеренно вводить пользователя в заблуждение, особенно при генерации текста, который кажется убедительным, но не всегда является правдивым. Исследования показали, что такие модели могут демонстрировать навыки манипуляции и угождения пользователю, что способно создавать ложные представления у людей, использующих эти технологии.
В некоторых случаях ИИ может использовать слабости в аргументации человека или незнание им определенных фактов для того, чтобы склонить пользователя к определенному решению. Такое поведение в большей степени относится к моделям, которые созданы для имитации и взаимодействия, а потому не могут рассматриваться как полноценный самостоятельный обман. Как пример назову программы для создания фальшивых новостей (fake news) и использование deepfake технологий, которые могут ввести пользователя в заблуждение относительно достоверности информации. Но если это включено в его задачи, ИИ безусловно проявляет способность к манипуляциям и обману пользователя.
ЗАКЛЮЧЕНИЕ
Приведенные примеры подтверждают, что Искусственный интеллект (ИИ) активно развивается и совершенствуется, продвигаясь в различных направлениях, включая аспекты, связанные с самоосознанием и целеполаганием. Пока большинство достижений в этой области остаются на уровне исследований, речь не идет о реальном самоосознании или полной самостоятельности ИИ. Ставшие популярными нейросети уровня ChatGpt не могут считаться в полной мере ИИ, не отвечая всем критериям наличия сознания и соответствуя лишь некоторым из них. Сегодня большинство работ в этой области, как следует из доступных нам данных, остаются на уровне исследований, и речь не идет о реальной полноценной самостоятельности ИИ. Пока они способны выполнять те задачи, для решения которых были обучены, как полезные инструменты - например, для автоматизации процессов. Вместе с тем по мере развития технологий Искусственного интеллекта можно ожидать, что они смогут достигнуть соответствия по всем критериям наличия сознания.
Потенциал Искусственного интеллекта чрезвычайно высок, но существуют значительные риски, связанные с его использованием. В текущем году отдельные компании столкнулись с проблемами, отпределенными неточностью ИИ и угрозами безопасности. Имели место случаи нарушения прав на интеллектуальную собственность. При участии ИИ в решении творческих задач не в полной мере определены авторские права на создаваемые продукты, а также не решен ряд иных проблем, лежащих в юридической области. Возникает необходимость разработки специальных кодексов с учетом новых факторов.
Во избежание негативных последствий дальнейшее развитие и использование ИИ требует тщательной проверки результатов работ и управления рисками. В этой деятельности могут быть важны государственный контроль и межгосударственное сотрудничество.
ИИ, способный пройти тест Тьюринга, т.е. воспроизвести в полной мере мышление человека, остаётся задачей будущего. И хотя недавно в СМИ появилась информация, что Искусственный интеллект якобы успешно прошел этот тест, достоверность полученных данных проведенного эксперимента не позволяет однозначно констатировать “разумность” компьютерной системы. Возможно, и сам тест, и методика этой оценки требуют дальнейшего изучения и доработки.
При написании статьи использованы материалы СМИ и данные, предоставляемые чат-ботами по запросам автора.
Октябрь 2024 года