Мысли по ответу ИИ на мой вопрос к нему

Мой вопрос к ИИ (DeepSeek):

«Каковы фундаментальные принципы и идеи, на которых зиждется ИИ?»

Далее начал было писать, но получилось небольшое Предисловие:

1. По поводу широко и бурно обсуждаемой темы «ИИ» хочу отметить следующее. Ни одно явление высокой степени сложности, новизны и неопределённости (такова и тема «ИИ») не может быть спрогнозировано до уровня рационального и ясного целостного о нём (этом явлении) представления.

Как пример из прошлого – 5-летнее планирование развития народного хозяйства в СССР. Ни одна пятилетка тогда не была выполнена по «намеченным лекалам» (хотя были случаи и перевыполнения ожиданий). Планирование необходимо, однако, оно необходимо исключительно для внутреннего потребления и никаких конкретных показателей наружу! Публично могут быть (иногда и должны быть) провозглашены лишь основные направления развития страны, народного хозяйства, культуры, обороноспособности (лишь направления, но никак не задачи, цели, проекты!).

Пример из недавнего прошлого – «наша Перестройка» в конце прошлого века. Да разве могут быть схвачены и осмыслены в своей целостности такие явления? – Нет, конечно. Однако, за принятый выбор направления развития страны Руководство СССР 80-х годов должно нести ответственность всецело. Жизнь показывает, что выбор был неверным, хуже того – катастрофическим для страны.

Пример нашего времени – СВО. Явление той же степени сложности и мы находимся «внутри» этого явления, поэтому пока рано говорить о его целесообразности, однако, многое говорит о том, что выбор направления нашим Руководством сделан верный. Дай Бог!

И вот теперь по нашей теме – развитие цифровизации РФ. Как важное направление развития страны, оно провозглашено. Всё! Ответственность руководители страны за это направление на себя взяли и теперь по нему должна идти интенсивная и результативная работа. А вот всякое вынесение «на публику, в СМИ» размышлений на тему «ИИ/Цифра» можно считать, в лучшем случае, просветительским, а в худшем – интеллектуально-развлекательным. К сожалению, степень ожиданий и масштабность публичного обсуждения темы «ИИ» перешли все разумные границы, с этой проблемой явно следует разбираться и вносить какие-то поправки.

2. Раскручивающаяся эпопея явления «ИИ» показывает, что мысль и язык – вещи тождественные. Основа ИИ именно языковая и это (для автора) оставляет просвет надежды на то, что мы сможем преодолеть в целом сильно затуманенную картину этого явления и выберемся на уровень понимания происходящего.

3. ИИ – подход универсальный (поэтому, отчасти, и языковый) и, как всё универсальное, он, без сомнения, проигрывает специализированному решению в эффективности. Уже сегодня мы видим, какие огромные вычислительные мощности требует ИИ (а ведь это существенно понижает его эффективность, как инструмента, и значимость в целом, но об этом пока молчат). Во многом это издержки именно универсальности ИИ, но пока трудно, или даже невозможно, категорично судить об этом (именно об оправданности такого огромного перебора мощностей этим инструментом). То есть с окончательной убеждённостью и выводами придётся подождать.

Вот ответ ИИ на мой вопрос к нему (вперемежку с моим комментарием к ответу).

ИИ свой ответ делит на несколько слоев: от философских основ до ключевых инженерных парадигм. Структуру ответа ИИ я далее полностью сохраняю, но также сохраняю и небольшие фрагменты его текста (они далее взяты в кавычки). Также я делаю попутно и вперемежку с текстом ИИ короткие собственные замечания по ответу – это далее фрагменты текста без кавычек.

1. Философские и Когнитивные Основы

• То, что для ИИ взята предпосылка: «мыслительные процессы (разум) ИИ по своей сути является вычислительным», это сразу же показывает одно из принципиальных ограничений возможностей ИИ – его мышление является рациональным. Ясно, что мышление реального человека в своей квинтэссенции лишь в малой степени является рациональным, ядро человеческого мышления есть явление иррациональное, но сюда ИИ подобраться просто не может.

• «Репрезентация знаний» – это важный вопрос. То, что ИИ имеет под собой языковую основу, с одной стороны, позволяет ИИ быть универсальным и постоянно до-обучаться, с другой стороны, до-обучаться ему приходится буквально на каждой задаче, что существенно более избыточно, нежели это есть в деятельности реального человека (мы ведь тоже постоянно до-обучаемся).

• Актуальный вопрос – «как перевести реальный мир во внутреннее представление ИИ». Но заметим, что актуально (и необходимо) уметь выполнять и обратное действие – полученный результат (уже во внутреннем представлении ИИ) необходимо перевести на язык «клиента», реального человека (реального мира) – постановщика задачи.

• «Для достижения наилучшего ожидаемого результата (или максимизации "функции полезности") на основе имеющихся знаний часто целесообразно переводить философские вопросы о разуме в инженерные задачи оптимизации». К сожалению, такой перевод не всегда возможен, надо полагать, в большинстве наиболее важных и интересных случаев он как раз будет невозможен, поэтому достижение ИИ «наилучшего результата» оказывается под вопросом.

Вывод по Разделу 1. Таким образом, уже в самом фундаменте – на уровне «философских и когнитивных оснований» – ИИ обнаруживает существенные ограничения. Поэтому наш неумеренный оптимизм по его поводу стоило бы поубавить.

2. Математические и Формальные Основы

Если «эти Основы есть язык и инструменты, на которых строятся модели ИИ», то что же мы видим: 1) наш человеческий вербальный язык есть именно тот язык, на котором ИИ получает  конкретную ситуацию жизненного мира, как свою [проблемную, аналитическую] задачу; 2) математика (линейная алгебра, теория вероятности, байесовский вывод, статистика, теория вычислений, …) – это ведь тоже язык(и), которые есть средства/инструменты «внутреннего рассуждения/мышления» ИИ, посредством которого и выстраивается целевая модель ИИ; 3) но эта целевая модель своим результатом, как результат деятельности и самого ИИ (как решение исходной проблемы, задачи), должна вернуть этот результат в жизненный мир – тоже на человеческом вербальном языке.

Вывод по Разделу 2. Работа ИИ – это сплошная языковая работа, воистину, «язык и мышление – это одно». И тогда возникает возражение к тезису: «Мыслительные процессы ИИ являются вычислительными». Инструменты могут быть вычислительными, но сами мыслительные процессы уж никак не могут быть таковыми (разве что в совсем небольшой, мало значащей степени).

3. Ключевые Идеи и Парадигмы (Как это работает)

• «Кардинальный сдвиг, осуществляемый в ИИ, – это переход от программирования "вручную" к обучению на данных. Вместо того, чтобы писать правила для распознавания кошки, мы показываем системе множество изображений (с кошками и без), и система сама находит закономерности – в этом ключевая парадигма современного ИИ». Но это лишь общий посыл, чуть детальнее «кухня ИИ» раскрывается далее следующими положениями:

• Исходные данные, а это преимущественно текст на вербальном языке, ИИ подвергает «семантическому разбору», а это анализ смысла, содержания и значения языковых единиц. И вот этот же перечень, но в обратном порядке и с небольшими пояснениями:
1. Определение значения слова. Его скрытый смысл: 1) уход от возможной многозначности слова; 2) видеть синонимы и т.п.
2. Анализ отношений между словами предложения: 1) кто субъект действия; 2) что является объектом действия; 3) роли других участников действия (инструменты, место, время, …).
3. Построение смысловой структуры предложения – объединение значений слов в «смысловое ядро».

• Уровни семантического анализа:
1. «Лексический – определение значения отдельных слов».
2. «Синтаксический – анализируем грамматическую структуру предложения».
3. «Семантический (пропозициональный) – выявляем смысловые роли и строим пропозицию (смысловое ядро)».
4. «Прагматический (контекстуальный) – учитываем контекст, цели и скрытые смыслы».

• Методы и подходы к семантическому разбору:
1. «Семантические словари и тезаурусы».
2. «Семантические роли (фреймы)».
3. «Машинные методы обработки естественного языка: 1) автоматическое определение значения многозначного слова в его контексте; 2) автоматическое присвоение слову семантической роли в предложении; 3) векторные модели слов в многомерном пространстве (близкие по значению слова имеют близкие векторы)».

Выводы по Разделу 3.

1. Видно, что ИИ к ключевым моментам своего функционирования всё же не допущен – ведь интересен не факт перехода от программирования к обучению на данных, но как система (ИИ) идентифицирует кошку, находя закономерности её поиска по исходным изображениям (по данным). Но об этом ни намёка.

2. Смысловой анализ, выход на «смысловое ядро», на «скрытые смыслы» никак не обозначены. Как осуществляется работа со словами-понятиями (они принципиально не определимы)? Не раскрывается.

3. «Автоматическое определение значения», «автоматическое присвоение семантической роли» – это что за автоматы? Фразы звучат легко, складно, но на чём они основаны? Векторные модели слов в многомерном пространстве – это линейная алгебра, это понятно, но откуда автоматы работы со смыслом?

Далее весь материал (включая Заключение) даётся только от ИИ – с сокращениями, но без моих комментариев.

4. Пример полного семантического разбора предложения

Предложение: «Пожилой ученый открыл молодому коллеге секрет успеха с помощью старых записей».

1. Лексический уровень: «открыл» — здесь означает «рассказал, раскрыл информацию», а не «открыл дверь». «Секрет» — тайное знание. «Записи» — письменные заметки.

2. Синтаксический уровень: Подлежащее — «учёный», сказуемое — «открыл», дополнения — «коллеге», «секрет», обстоятельства — «с помощью записей».

3. Семантический уровень (пропозиция):
• Смысловое ядро: РАСКРЫТИЕ_ИНФОРМАЦИИ
• Семантические роли:
• Источник/Агент: пожилой ученый
• Получатель: молодой коллега
• Объект/Тема: секрет успеха
• Инструмент: старые записи
• Пропозиция: РАСКРЫТИЕ_ИНФОРМАЦИИ (Источник: пожилой ученый, Получатель: молодой коллега, Тема: секрет успеха, Инструмент: старые записи)

4. Прагматический/контекстуальный уровень: Ситуация передачи знаний и опыта от старшего поколения к молодому. Подчеркивается ценность архива (старых записей). Возможная цель текста — показать важность наставничества и сохранения знаний.

5. Почему семантический разбор сложен?

• Многозначность (полисемия): Одно слово может иметь множество значений.

• Контекстная зависимость: Смысл часто определяется не только соседними словами, но и более широким контекстом, культурными особенностями и общими знаниями о мире.

• Идиомы и метафоры: Фразы, значение которых не выводится из суммы значений слов («дать дуба», «водить за нос»).

• Неявная информация: В тексте часто опускается очевидная для человека информация, которую машине нужно восстанавливать. «Позвонил матери. Она обрадовалась» — машина должна связать «она» с «матерью».

• Субъективность и интерпретация: Некоторые смыслы зависят от точки зрения читателя или цели анализа.

6. Семантический разбор — основа для множества современных технологий:

• Поисковые системы: Понимание намерения пользователя, а не просто поиск по ключевым словам.

• Машинный перевод: Чтобы корректно перевести предложение, нужно понять его смысл, а не просто заменить слова.

• Чат-боты и виртуальные помощники (Siri, Алиса): Понимание запросов пользователя в свободной форме и генерация осмысленных ответов.

• Анализ тональности: Определение, несет ли текст позитивную, негативную или нейтральную окраску. Важно понимать контекст.

• Извлечение фактов: Автоматическое структурирование информации из текста (например, из новости: Кто? Что сделал? Когда? Где?).

• Проверка грамматики и стиля: Продвинутые редакторы могут предлагать исправления, основываясь на смысле предложения.

Заключение
Семантический разбор — это переход от формального анализа слов и структуры предложения к пониманию его смысла. Это сложная задача, стоящая на стыке лингвистики, компьютерных наук и искусственного интеллекта.

Краткий итог – путь анализа предложения:

• Морфология: Что за слово? (часть речи, грамматические признаки).

• Синтаксис: Как слова связаны? (подлежащее, сказуемое, второстепенные члены).

• Семантика: Что это значит? (смысловые роли, пропозиция).

• Прагматика: Зачем это сказано? (контекст, цель, скрытый смысл).

Современные языковые модели в значительной степени учатся проводить все эти этапы анализа одновременно на огромных массивах текста, что и позволяет им «понимать» и генерировать связную человеческую речь.


РЕЗЮМЕ ОТ АВТОРА СТАТЬИ

Работа ИИ в языковой парадигме оправдана, но выдвигает принципиальные ограничения. В языке мы работаем как со словами-понятиями (дружба, верность, предательство, …), смысл которых не определим, но лишь постижим через длительный и упорный труд в течении самой жизни, и эти-то слова и составляют основу наших знаний, нашего мышления, но также мы пользуемся и словами-ярлыками (автомобиль, река, столица, …), значение которых определённо и жёстко к ним пристёгнуто – это «вспомогательные, инструментальные» слова, они сути дела почти не задевают и предельно просты в освоении и употреблении. К сожалению, мы пока видим (в том числе и по ответу ИИ на мой вопрос), что ИИ работает в мире слов-ярлыков, а встречающиеся слова-понятия он также использует, но опуская их до уровня слов-ярлыков, чем, естественно, сильно огрубляет, искажает картину мира. Реальный человек, наоборот, живёт по сути в мире исключительно слов-понятий, нередко лишь предчувствуя некоторые из них, но даже это не выбивает его из мыслительного процесса, и в конце концов он восклицает: «Эврика!». Разве возможна «Эврика!» у ИИ?

В одной информационной программе услышал сегодня: «вычисления – новая нефть», и это относится именно к ИИ, хотя в самой программе об ИИ прямо ничего сказано не было. Ведь до сих пор ничего соизмеримо прожорливого «на вычисления» не существовало (наверное, ИИ уступают даже «цифровые деньги»). Дело за малостью, если нефть относительно быстро оказалась широко востребованной более-менее естественным образом, то для вычислений также важно, чтобы ИИ стал массово востребованным (а уж востребованность в вычислениях эта «молотилка» обеспечит гарантированно), и всё к тому идёт. Ищем новых интересантов всего этого, вероятно, нам здесь встретятся уже хорошо знакомые информационные компании.