Artificial General Intelligence

               Заглавие переводится как Общий искусственный интеллект, или сокращённо AGI. Это гипотетический искусственный интеллект (ИИшка), который способен выполнять не только одну конкретную задачу, а понимать, изучать и решать широкий спектр интеллектуальных задач примерно на уровне человека или выше. Современные модели вроде ChatGPT или Gemini обладают довольно широкими возможностями, но общепринятого подтверждения того, что существующие системы ИИшек уже достигли AGI, нет.
               Более того, у исследователей нет единого определения и теста, однозначно определяющего момент достижения уровня AGI. 
               Главная проблема сотворения AGI - понятие Сознания. Что такое Сознание? Некая мыслительная способность, которой обладают живые существа, начиная от насекомых или даже от водоплавающих до человека. Сознание имеет множество различных форм и степеней совершенства. Считается, что "первее" всех об этом сказал философ Дэвид Чалмерс.
               Вот одна из бесед на эту тему: https://www.youtube.com/watch?v=R6LDXk_RUQQ - Проблема сознания, природа "Я" и парадоксальная ясность от российского академика Константина Анохина и Ивара Максутова.
               Сознание - это способность живого существа иметь собственный субъективный опыт. Например, человек видит красный цвет. Мозг обрабатывает определённую длину волны луча света от источника. Но это не всё. Сознание каким-то неизвестным науке образом красный цвет переживает, как красный.
               Интеллект - способность решать задачи;
               Самосознание - способность осознавать себя как "Я";
               Сознание - наличие субъективного переживания вообще.
               Врач-психиатр может по поведению человека делать очень серьезные выводы о наличии качественного человеческого сознания. Но это не означает, что мы уже имеем научный прибор, способный измерять чужое субъективное переживание.
               Если умный электронный механизм (робот высочайшего качества)  будет разговаривать, думать, помнить себя, страдать, радоваться и утверждать, дескать "Я существую", будет ли у него настоящее сознание или он лишь чрезвычайно убедительно его имитирует?
         
* * *
               Беседа об этой штуковине (ИИшке) только-только начинается, я тугодум (повидимому) и сначала предпочитаю послушать других, которые всесторонне... Мне сказали: задавайте вопросы. И я спросил: Что такое ИИшка?
               ИИшка — это разговорное, уменьшительно-ласкательное название искусственного интеллекта (ИИ). Этот сленговый термин часто используется в неформальном общении, мемах, IT-среде и среди обычных пользователей, когда говорят о нейросетях, чат-ботах или других технологиях машинного обучения. Например, так могут называть конкретную модель, генерирующую текст или картинки, либо общую концепцию искусственного интеллекта в повседневном контексте.
               Искусственный интеллект — это свойство компьютерных систем выполнять задачи, которые традиционно требуют человеческого интеллекта: распознавать речь, принимать решения, переводить языки, создавать творческий контент и анализировать огромные массивы данных.
               Говорят, что над ним работали тысячи и тысячи всяких разных людей. Так что они делали? Как работали? Поодиночке или скопом?
               Создание современного искусственного интеллекта — это действительно масштабный процесс, в котором задействованы не просто тысячи, а десятки тысяч специалистов по всему миру. Они работали и поодиночке, и огромными командами ("скопом"), разделяя гигантский объем задач на четкие специализированные роли. Вот как была устроена эта работа и что именно делали эти люди. Исследователи и ученые (теоретики) придумывали саму математическую и архитектурную базу (например, архитектуру трансформеров, на которой строятся современные нейросети). Эти люди часто работали небольшими научными группами в университетах или исследовательских лабораториях (Google DeepMind, OpenAI и др.), публикуя статьи и экспериментируя с новыми алгоритмами. Инженеры по машинному обучению и дата-сайентисты брали теоретические наработки и превращали их в работающий код, настраивали архитектуру сетей, подбирали гиперпараметры и запускали масштабные тренировки моделей на суперкомпьютерах. ИИ учится на колоссальных объемах информации (тексты интернета, книги, код, изображения). Огромные команды людей отбирали, фильтровали, очищали эти массивы данных от мусора, вирусов, токсичного контента и дубликатов, чтобы модель обучалась на качественных примерах. Тысячи людей вручную размечали тексты и картинки, классифицировали их, оценивали качество ответов нейросети (метод RLHF — обучение с подкреплением на основе отзывов людей). Именно они объясняли модели, какой ответ хороший и вежливый, а какой — нет. Инженеры создавали и поддерживали сложнейшую IT-инфраструктуру, дата-центры и кластеры из тысяч мощнейших графических процессоров (GPU), без которых обучение современных моделей просто невозможно физически. Специалисты по безопасности и этике проверяли модель на уязвимости, предвзятость, склонность к генерации опасного или незаконного контента, пытаясь "обезопасить" искусственный интеллект перед тем, как выпустить его к людям. В итоге это выглядело как гигантский конвейер: теоретики закладывают фундамент, инженеры строят систему, дата-инженеры и разметчики наполняют её знаниями и учат правильному поведению, а программисты упаковывают всё это в удобные для пользователей приложения.
               Все достижения современной науки и технологий стали возможны именно благодаря слаженным усилиям этого огромного сообщества специалистов.
               Ключевые фигуры и руководители, которые направляли развитие ведущих ИИ-проектов - Сэм Альтман (Sam Altman) — генеральный директор OpenAI (создатели ChatGPT). Он руководил одной из самых влиятельных команд в мире, определяя бизнес-стратегию, привлечение гигантских инвестиций и общую философию развития компании. Демс Сассаби / Демис Хассабис (Demis Hassabis) — сооснователь и глава Google DeepMind. Один из пионеров искусственного интеллекта, объединивший фундаментальные научные исследования в области нейросетей (например, AlphaFold) с прикладными продуктами Google. Дарио Амодеи (Dario Amodei) — генеральный директор Anthropic (создатели Claude). Бывший топ-менеджер OpenAI, который возглавил команду с особым упором на безопасность ИИ и этические стандарты. Илья Суцкевер (Ilya Sutskever) — сооснователь OpenAI и один из главных теоретиков современной индустрии, возглавивший затем исследовательские проекты в области безопасного суперразума (SSI). Ян Лекун (Yann LeCun) — главный научный сотрудник по искусственному интеллекту в Meta. Один из «крестных отцов» современного глубокого обучения (автор сверточных нейросетей), который руководит масштабными открытыми исследованиями в этой области. Марк Цукерберг (Mark Zuckerberg) — глава Meta, лично координирующий стратегию компании в отношении масштабных открытых моделей (серия Llama), которые определяют стандарты для всей индустрии.
               Эти лидеры задавали вектор развития через определение целей, распределение ресурсов и управление крупнейшими коллективами инженеров и ученых. Лидеры задают вектор развития, а дальше начинается огромный и сложный процесс взаимодействия тысяч людей, которые пишут код, собирают гигантские базы данных, строят суперкомпьютеры и сутками настраивают алгоритмы.
               Чтобы этот «оркестр» не развалился, применялась строгая система разделения труда, проектный менеджмент и автоматизированные тесты. Каждый знал свой узкий участок: кто-то улучшал обработку текста, кто-то оптимизировал скорость работы процессоров, а кто-то проверял модель на ошибки. Именно благодаря такому слаженному механизму и получились современные нейросети.
               За последний год информационный шум вокруг искусственного интеллекта достиг невероятных масштабов. Отовсюду звучат слова про "революцию", "восстание машин", и так далее, из-за чего складывается ощущение хаоса, в котором невозможно разобраться. Но если отбросить этот маркетинг и словесную шелуху, вся суть ИИ сводится к одной простой вещи: огромный массив текстов из интернета прогоняют через мощнейшие математические формулы на суперкомпьютерах, чтобы программа научилась очень точно угадывать следующее слово в предложении. Больше за этим пока ничего мистического нет. Все остальные разговоры — это уже детали реализации, которые интересны только специалистам.
               Вот как идея ИИ возникала и формировалась в головах организаторов.
Осознание сдвига в технологиях (2015–2018 годы): Альтман и другие будущие основатели OpenAI (Илон Маск, Илья Суцкевер и другие) увидели, что старый подход, где программисты вручную прописывали правила для компьютеров ("если текст содержит слово X, ответь Y"), зашел в тупик. На смену ему пришло глубокое обучение. Нейросети начали сами находить закономерности, когда скормили им достаточно данных. Они поняли простую, но дорогую вещь: чем больше вычислительной мощности (мощных процессоров), данных и параметров у нейросети, тем умнее она становится.
               Управленцы мыслят не строками кода, а миссиями и ресурсами. В случае с OpenAI цель звучала максимально амбициозно и громко — создать искусственный интеллект общего назначения (AGI), который превзойдет человека. Под эту красивую и пугающую идею нужно было объединить лучших ученых мира и привлечь миллиарды долларов.
               Альтман не сидел за компьютером и не писал архитектуру трансформеров. Его роль заключалась в другом: найти инвесторов (пообещав Microsoft колоссальную прибыль и технологии), переманить ведущих исследователей из Google с помощью рекордных зарплат и выбить доступ к дефицитным чипам. То есть в голове условного организатора процесс выглядел не как "Я придумал формулу текстов", а как "если мы объединим лучшие умы, купим самый большой суперкомпьютер в мире и заставим его проглотить весь интернет, мы получим принципиально новый инструмент, который перевернет рынок". Именно так абстрактная научная статья превращается в многомиллиардный проект, над которым начинают работать те самые тысячи людей.
               Вот как это выглядело через призму учительской практики:
               Замысел директора (Идея): Директор видит, что старые методы (ученики зубрят параграфы наизусть по учебникам) больше не работают в меняющемся мире. Он формулирует сверхзадачу: "Нам нужен супер-ученик, который прочитал абсолютно все книги человечества и может ответить на любой вопрос лучше любого профессора". Сам директор программы обучения не пишет — он формулирует концепцию и цель.
               Сбор педагогического коллектива (Инженеры и ученые): Директор понимает, что один он ничего не сделает. Он нанимает лучших методистов (исследователей), которые знают, как устроен процесс познания. Методисты говорят: "Чтобы ребенок усвоил материал, нам нужна не просто зубрёжка, а механизм прогнозирования — пусть он учится угадывать следующее слово в предложении по аналогии с тем, как люди заканчивают фразы друг за друга".
               Дальше шло строительство здания и покупка оборудования (Инфраструктура): Директор выбивает колоссальное финансирование и строит не просто класс, а гигантский цифровой кампус — суперкомпьютер из тысяч мощнейших процессоров. Завоз учебников (Сбор данных): Школе нужны не десять учебников, а вообще всё, что написало человечество: библиотеки, архивы интернета, научные статьи, художественная литература. Всё это свозится на склады.
               Процесс обучения (Тренировка модели): Начинается то самое "обучение уму-разуму". Но модель — это чистая доска без памяти и рефлексов. Сначала её заставляют просто читать терабайты текстов и на огромной скорости угадывать пропущенные слова. Ошиблась — исправление, угадала — похвала (математическая подгонка весов). Когда этот колоссальный объем прочитан, модель начинает улавливать грамматику, логику и факты. Педагогическая коррекция (RLHF): На финальном этапе подключаются те самые тысячи людей-разметчиков. Они работают как строгие учителя с указкой: проверяют черновики модели, объясняют ей, где она хамит, где врет, а где дает дельный совет, прививая ей вежливость и правила хорошего тона. В итоге директор получает инструмент, который не "понимает" мир как человек, а безупречно воспроизводит логику человеческой речи, впитав гигантский опыт поколений.
               Итак, человек придумал себе помощника, назвал его Искусственным интеллектом, но не наделил его сознанием. Почему? Ну, во-1-х он и сам толком до конца не знает как сознание устроено и каким образом оно в нём возникло. Во-2-х, важная функция сознания - целеполагание. Человек способен поставить перед собой цель, которую ему никто, кроме его самого, не поручал. ИИ же устроен иначе. Он может рассуждать о целях, может принять заданную ему цель, разбить её на под-цели и последовательно решать задачу. Но исходная потребность не возникает в нём самостоятельно. Я, к примеру, могу попросить ИИ: "Помоги мне заработать миллион". И он будет искать способы это сделать. Но сам ИИ не просыпается утром (образно говоря) с мыслью "Мне нужно заработать миллион". И тут возникает вопрос, достаточно ли для сознания способности самому ставить цели? Если когда-нибудь появится искусственная система, которая сама обнаруживает проблему, самостоятельно формирует цель, действует для ее достижения, оценивает результат и изменяет свою цель под влиянием полученного опыта - вопрос о наличии у неё сознания станет совсем другим. А пока, хотя ИИ умеет многое, сказать "Я хочу" - это совсем не то же самое, что выполнять чужое "хочу".