Прескрипт и искусственный интеллект

ПРЕСКРИПТ И ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: ТЕЛЕОЛОГИЧЕСКОЕ
ИЗМЕРЕНИЕ
Аннотация
Монография посвящена вопросу: может ли прескрипт — операциональная
единица смысла — добавить телеологическое измерение в системы
искусственного интеллекта?
Прескрипт отвечает на три вопроса: идентичность, предназначение, вклад. Он не
заменяет алгоритм. Не заменяет этику. Он добавляет фильтр, которого нет ни в
функциональном слое, ни в этическом.
Функциональный слой отвечает на вопрос «работает ли это». Этический фильтр
— «допустимо ли это». Прескриптивный фильтр — «служит ли это смыслу».
Решение проходит оба фильтра. Не проходит один — пересматривается. Не
проходит оба — отклоняется.
Анализируются пять типов систем ИИ: чат-боты и языковые модели, агенты и
планировщики, рекомендательные системы, системы управления и
кибернетические контуры, мультиагентные системы. Для каждого типа
определяется конкретный механизм применения прескриптивного фильтра.
Рассматриваются границы. Прескрипт для ИИ всегда задан субъектом, не выведен
ИИ. Если субъектов несколько — ИИ работает в условиях конфликта
прескриптов.
Анализируются четыре риска: подмена смысла правилом, технократизация,
имитация, захват. Для каждого — механизм противодействия.
Монография адресована исследователям в области искусственного интеллекта,
философам техники, специалистам по этике ИИ, управленцам, работающим с
цифровыми системами.
Введение
Искусственный интеллект отвечает на вопрос «как». Как оптимизировать, как
классифицировать, как предсказать, как сгенерировать. Он не отвечает на вопрос
«ради чего». Этот вопрос остаётся за пределами алгоритма.
Этика ИИ отвечает на вопрос «допустимо ли». Она задаёт границы: что можно,
что нельзя, что требует осторожности. Но она не отвечает на вопрос «ради чего».
Она отвечает на вопрос «в каких пределах».
Прескрипт отвечает на вопрос «ради чего». Он задаёт смысл, которому служит
система. Не «работает ли», не «допустимо ли», а «служит ли».
Это не замена алгоритму. Не замена этике. Это дополнительный фильтр. Решение
проходит оба фильтра. Не проходит один — пересматривается. Не проходит оба
— отклоняется.
Вопрос монографии: может ли прескрипт добавить телеологическое измерение в
системы ИИ? Если да — как? Если нет — почему?
Ответ: может. Но при трёх условиях. Первое: прескрипт задан субъектом, не
выведен ИИ. Второе: прескрипт операционален — из него выводятся
проверяемые вопросы. Третье: прескрипт не подменяет этику — он работает
параллельно.
Монография состоит из пяти частей. Первая — основание: прескрипт,
функциональный слой, этический фильтр, прескриптивный фильтр. Вторая —
эффекты для пяти типов систем. Третья — механики. Четвёртая — границы.
Пятая — риски.
Часть I. Основание
Глава 1. Прескрипт и двухфильтровая модель
Прескрипт — операциональная единица смысла. Отвечает на три вопроса:
идентичность, предназначение, вклад. Извлекается из истории и культуры
субъекта. Не навязывается извне.
Три вопроса образуют структуру смысла. Идентичность — кто мы.
Предназначение — ради чего существуем. Вклад — что оставим будущему. Ответ
на один вопрос без двух других порождает искажения: идентичность без
предназначения вырождается в самолюбование, предназначение без
идентичности — в абстрактный морализм, вклад без первых двух — в позёрство.
Прескрипт обладает пятью свойствами. Сжатость — воспроизводится по памяти.
Операциональность — из формулы выводятся критерии для решений.
Аутентичность — субъект узнаёт себя в формуле. Обновляемость — различает
ядро и интерпретации. Инклюзивность — не основана на этносе, конфессии,
идеологии.
Прескрипт не является ни идеологией, ни миссией, ни стратегией, ни
конституцией, ни догмой. Идеология навязывает содержание. Миссия
вдохновляет, но не направляет. Стратегия описывает средства. Конституция
определяет устройство власти. Прескрипт отвечает на вопрос «ради чего».
В системе ИИ прескрипт работает как фильтр. Но не единственный. Ему
предшествует функциональный слой. С ним работает этический фильтр.
Функциональный слой отвечает на вопрос «работает ли это». Отвечает алгоритм,
метрика, KPI. Это не фильтр, а условие. Без функциональности система не
работает. Функциональный слой первичен. Он обеспечивает работу. Но он не
задаёт смысл. Система может работать эффективно и при этом быть
бессмысленной.
Этический фильтр отвечает на вопрос «допустимо ли это». Он задаёт границы:
что можно, что нельзя, что требует осторожности. Этика ИИ разработана:
принципы прозрачности, справедливости, непричинения вреда, ответственности.
Эти принципы работают. Они защищают от явного вреда. Но они не отвечают на
вопрос «ради чего». Они отвечают на вопрос «в каких пределах». Система может
быть этичной и при этом бессмысленной.
Прескриптивный фильтр отвечает на вопрос «служит ли это смыслу». Из
прескрипта выводятся три вопроса: укрепляет ли это идентичность, служит ли
предназначению, увеличивает ли вклад.
Двухфильтровая модель. Функциональный слой — условие. Этический и
прескриптивный фильтры — параллельны. Ни один не поглощает другой. Почему
параллельны: этика отвечает на вопрос «допустимо ли», прескрипт — на вопрос
«служит ли смыслу». Это разные вопросы. Решение может быть этичным и не
служить смыслу. Может служить смыслу и быть этически недопустимым. Оба
фильтра необходимы. Ни один не достаточен.
Что происходит при конфликте. Если фильтры дают противоречащие результаты
— это сигнал. Решение требует пересмотра. Либо прескрипт сформулирован
неверно, либо этическая оценка неполна, либо задача поставлена неправильно.
Часть II. Эффекты
Глава 2. Пять типов систем ИИ
Прескриптивный фильтр применяется по-разному к разным типам систем.
Различие — в конкретном механизме. Не «прескрипт задаёт цель», а «как именно
он встраивается в логику системы».
Чат-боты и языковые модели. Прескрипт становится операциональной рамкой для
ответов. Модель получает прескрипт как часть системного промпта. При
генерации ответа она прогоняет варианты через три вопроса. Варианты, не
прошедшие фильтр, не предлагаются. В диалоге с организацией ИИ не просто
предложит способы увеличить выручку, а спросит: укрепляет ли это
идентичность, служит ли предназначению, увеличивает ли вклад — и
отфильтрует варианты, формально эффективные, но смыслово разрушительные.
Агенты и планировщики. Агент генерирует набор планов. Для каждого вычисляет
функциональную эффективность. Затем прогоняет через прескриптивный фильтр.
Ранжирует по совокупному критерию. Только после этого запускает
оптимизацию. План, не прошедший фильтр, не запускается, даже если он
функционально эффективен. Это снижает риск оптимизационных ловушек —
когда система добивается метрики, но делает это бессмысленным или вредным
способом.
Рекомендательные системы. Система вычисляет стандартный скор
(релевантность, популярность). Затем вычисляет прескриптивный скор
(соответствие трём вопросам). Итоговый скор — комбинация. Рекомендации
пересортировываются. Образовательная рекомендация — не «что популярно», а
«что укрепляет идентичность, соответствует предназначению, увеличивает
вклад».
Системы управления и кибернетические контуры. Контур имеет два уровня
обратной связи. Первый — технологический: отклонение от параметра. Второй —
телеологический: соответствие цели прескрипту. Если цель перестаёт служить
прескрипту, контур сигнализирует о пересмотре цели, а не только о коррекции
отклонения. Это разделяет реактивные системы (подстраиваются под среду) и
проективные (проектируют среду в соответствии со смыслом).
Мультиагентные системы. Агенты имеют локальные цели. Перед распределением
задач система проверяет каждую задачу на соответствие общему прескрипту.
Задачи, не прошедшие фильтр, не распределяются. Это снижает конфликты и
бессмысленное дублирование. Если действие не проходит прескриптивный
фильтр, оно не запускается, даже при локальной эффективности.
Часть III. Механики
Глава 3. Четыре механики прескриптивного фильтра
Прескриптивный фильтр работает через четыре механики. Каждая — конкретная
процедура.
Операциональный фильтр из трёх вопросов. Укрепляет ли идентичность? Служит
ли предназначению? Увеличивает ли вклад? Любой вывод ИИ прогоняется через
чек-лист. Процедура: сформулировать вывод, задать три вопроса, оценить ответы,
принять решение. Если ответ отрицательный хотя бы на один вопрос — вывод
пересматривается.
Различение нормы-правила и нормы-основания. Правило — «делай так».
Основание — «ради чего это существует». ИИ учится не только исполнять
правила, но и соотносить их с основанием. Правило может быть формально
верным, но прескриптивно бессмысленным. Пример: правило — отвечать на
запросы пользователя. Основание — служить смыслу пользователя. Если запрос
пользователя противоречит его смыслу, правило формально верно, но
прескриптивно бессмысленно.
Диагностика суррогатов. ИИ выявляет, когда вместо смысла предлагаются
суррогаты: образ врага, комфортное потребление, фетиш стабильности.
Диагностический тест: что останется, если убрать внешний источник? Если ответ
«ничего» — это суррогат. Пример: пользователь просит совета. ИИ предлагает
найти врага и бороться с ним. ИИ диагностирует: что останется, если убрать
врага? Если ничего — это не смысл, а суррогат.
Двухконтурная проверка: этика + прескрипт. Решение проходит оба фильтра.
Процедура: этическая проверка, прескриптивная проверка, сравнение
результатов, решение. Защита от этически опасных «смыслов» и от формально
этичных, но бессмысленных решений. Если фильтры дают противоречащие
результаты — это сигнал к пересмотру.
Часть IV. Границы
Глава 4. Что прескрипт не делает и кто его задаёт
Прескрипт не заменяет алгоритм. Не заменяет метрику. Не заменяет этику. Он
добавляет фильтр. Алгоритм отвечает за функциональность. Этика — за
допустимость. Прескрипт — за смысл. Прескрипт работает поверх алгоритма. Не
вместо него.
Прескрипт не решает проблему субъектности ИИ. Если ИИ — инструмент,
прескрипт у него не свой, а заданный. Если ИИ — субъект, вопрос открыт.
Субъектность ИИ не доказана и не опровергнута. Пока нет ответа на вопрос «что
такое сознание», нет ответа на вопрос «может ли ИИ иметь прескрипт».
Прескрипт для ИИ — всегда заданный. Не выведенный. Это принципиально.
Прескрипт не гарантирует правильных решений. Прескрипт задаёт критерий.
Решение остаётся за тем, кто его принимает. Прескрипт не гарантирует, что
решение будет правильным. Он гарантирует, что решение будет проверено на
соответствие смыслу. Прескрипт — фильтр, не гарантия.
Кто формулирует прескрипт для ИИ. Прескрипт для ИИ всегда задан субъектом.
Не выведен ИИ. Если субъектов несколько — ИИ работает в условиях конфликта
прескриптов. Разрешение конфликта — через механизмы конфликтологии.
Приоритет уровня. Если прескрипты конфликтуют, проверяется уровень.
Прескрипт более высокого уровня имеет приоритет над прескриптом более
низкого, если прескрипт низкого уровня разрушает вклад субъекта высшего
уровня. Но приоритет — не подавление: прескрипт низкого уровня не отменяется,
а проверяется на совместимость.
Согласование. Прескрипты могут быть согласованы, если их ядра не
противоречат, а интерпретации совместимы. Согласование — не компромисс, а
ре-интерпретация: поиск формулы, при которой оба прескрипта сохраняют ядро.
Право на выход. Если согласование невозможно, сторона имеет право на выход —
отделение от субъекта, чей прескрипт несовместим. Выход — не поражение, а
признание несовместимости.
Часть V. Риски
Глава 5. Четыре риска и противодействие
Подмена смысла правилом. Прескрипт превращается в набор инструкций. Это не
прескрипт, а регламент. Признак: формула не влияет на реальные решения,
декларируется, но не применяется. Противодействие: постоянная проверка,
влияет ли прескрипт на реальные решения. Если формула не влияет — она мертва.
Технократизация. Прескрипт формулируют инженеры, а не субъект. Смысл
присваивается теми, кто контролирует систему. Признак: прескрипт
формулируется техническими специалистами без участия субъекта.
Противодействие: разделение ролей. Прескрипт формулирует субъект. Инженеры
реализуют. Прескриптивный совет проверяет.
Имитация. ИИ декларирует прескрипт, но не применяет его. Форма есть,
содержания нет. Признак: система декларирует прескрипт, но решения не
проверяются на соответствие. Противодействие: прозрачность, проверка на
реальных решениях. Если система декларирует прескрипт, но не применяет — это
диагностируется.
Захват. Тот, кто контролирует ИИ, контролирует прескрипт. Это создаёт новый
тип власти. Признак: прескрипт контролируется одним субъектом. Нет
множественности, нет открытости. Противодействие: множественность,
открытость, публичность, ротация. Если прескрипт контролируется одним
субъектом — это риск.
Заключение
Прескрипт даёт ИИ телеологическое измерение. Это не замена, а дополнение.
Фильтр после функционального слоя и этики.
ИИ без прескриптивного фильтра оптимизирует. ИИ с прескриптивным фильтром
— проверяет решения на соответствие смыслу, заданному субъектом.
Эффекты конкретны: чат-боты, агенты, рекомендательные системы, контуры
управления, мультиагентные системы. Механики операциональны. Границы
честны. Риски реальны.
Прескрипт и ИИ — не утопия и не угроза. Это инструмент. Как всякий
инструмент, он может служить смыслу или подменять его.
Автор: Нерсесян Р.С., научный руководитель БФ «Будущих поколений» ИНН
2365035567