Прескриптивная экспертиза и ии

ПРЕСКРИПТИВНАЯ ЭКСПЕРТИЗА КАК ОТВЕТ НА
РАЗВИТИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Предотвращение угрозы «потери смысла» в эпоху алгоритмической
цивилизации
Введение
Искусственный интеллект— не просто новая технология. Это первая в истории
человечества система, которая способна генерировать тексты, решения, стратегии и
образы в масштабах, недоступных человеку. До сих пор каждый технологический
скачок усиливал человеческую способность делать что-то. Искусственный
интеллект усиливает способность принимать решения— или, точнее, создавать
видимость решений.
Проблема, которую исследует эта монография, не в том, что ИИ станет злым
или выйдет из-под контроля. Проблема в другом: ИИ способен производить
формально правильные результаты, лишённые смысла— в промышленных
масштабах. Это и есть угроза «потери смысла»: не катастрофа, а постепенное
растворение человеческой цели в потоке алгоритмически сгенерированных
действий, каждое из которых выглядит разумным, но совокупность которых ведёт в
никуда.
Прескриптивная экспертиза— метод, который ставит вопрос «зачем?» до
вопроса «как?». До настоящего времени этот метод разрабатывался как ответ на
дефицит смысла в государственном управлении, образовании, науке, культуре.
Теперь становится ясно, что его подлинное предназначение шире: это структурный
противовес алгоритмической экспансии, единственный механизм, способный
удержать человеческий смысл в мире, где производство решений всё больше
переходит к машинам.
Монография состоит из шести частей. Первая анализирует природу угрозы
потери смысла. Вторая показывает, почему существующие подходы к безопасности
ИИ её не решают. Третья раскрывает прескриптивную экспертизу как структурный
ответ. Четвёртая описывает конкретные сценарии применения. Пятая рассматривает
этические и философские следствия. Шестая предлагает дорожную карту внедрения.
Часть I. Угроза потери смысла: что именно происходит
Глава 1. Искусственный интеллект как смыслогенератор
Искусственный интеллект— это смыслогенератор в буквальном смысле: он
производит тексты, планы, прогнозы и рекомендации, которые выглядят
осмысленно. Большая языковая модель не «понимает» смысл— она воспроизводит
статистические паттерны человеческого языка. Но для получателя результата
разница между «понятным смыслом» и «статистически правдоподобной имитацией
смысла» почти неразличима. Это и есть корень проблемы.
Когда чиновник получает аналитическую записку, сгенерированную ИИ, он
видит структуру, аргументы, выводы. Когда студент читает эссе, написанное
машиной, он видит логику и стиль. Когда руководитель получает прогноз,
построенный алгоритмом, он видит цифры и тренды. Всё выглядит правильно. Но
«правильно» — не значит «осмысленно». Формальная правильность и смысловое
основание— разные вещи, и ИИ блестяще справляется с первой, но структурно не
способен со вторым.
Глава 2. Три уровня угрозы
Угроза потери смысла работает на трёх уровнях, и каждый следующий опаснее
предыдущего, потому что он менее заметен.
Первый уровень— прямой: человек делегирует ИИ задачу, которую раньше
решал сам, и перестаёт задавать вопрос «зачем?». Машине можно поручить
«написать стратегию», «составить план», «подготовить отчёт» — и машина сделает
это. Но машина не спросит: «А имеет ли смысл эта стратегия?». Человек тоже
перестанет спрашивать— потому что результат выглядит готовым. Это уровень
повседневного делегирования: смысл исчезает не от злонамеренности, а от удобства.
Второй уровень— системный: институты начинают оптимизироваться под
возможности ИИ, а не под смысл своих задач. Университет вводит «ИИ-ассистента»
для проверки курсовых— и постепенно критерием качества становится не «студент
понял смысл», а «текст прошёл проверку». Министерство внедряет алгоритм
распределения бюджета— и критерием становится не «деньги пошли туда, где
смысл», а «алгоритм сработал без ошибок». Система перестраивается под
инструмент, а не под цель. Это уровень институциональной подмены: смысл
вытесняется метрикой.
Третий уровень— цивилизационный: поколение, выросшее в мире, где ответы
всегда доступны, теряет способность формулировать вопросы. Если машина всегда
готова сказать, что делать, человек перестаёт спрашивать, зачем. Это не гипотеза—
это наблюдаемый процесс. Дети, которые никогда не искали ответ самостоятельно,
не умеют оценивать его смысл. Они умеют только проверять: «правильный» ли это
ответ. Но «правильный» и «осмысленный» — разные вещи.
Глава 3. Почему это не «просто очередной инструмент»
Каждый новый инструмент в истории человечества вызывал страх. Печать,
электричество, телевидение, интернет— всё это казалось угрозой. И всё же каждый
раз человек оставался субъектом: он решал, что печатать, что смотреть, что искать.
Искусственный интеллект— первый инструмент, который сам становится
субъектом решения. Он не просто усиливает человеческую руку— он замещает
человеческое суждение.
Разница принципиальная. Трактор сильнее человека, но человек решает, куда
ехать. ИИ быстрее человека в генерации вариантов— и возникает иллюзия, что он
лучше решает, куда ехать. Но скорость генерации вариантов не равна качеству
смысла. Машина может предложить тысячу маршрутов, но вопрос «зачем ехать?»
она не задаст— потому что этот вопрос не алгоритмический, а смысловой.
Глава 4. Симптомы: что мы уже наблюдаем
Симптомы потери смысла уже видны. Стратегические документы становятся
всё более стандартизированными и всё менее осмысленными— потому что их
можно сгенерировать по шаблону. Образовательные программы всё больше похожи
друг на друга— потому что алгоритм оптимизации ищет эффективность, а не
смысл. Медийный контент становится всё более однообразным— потому что
алгоритмы рекомендаций оптимизируют вовлечённость, а не понимание.
Симптом не в том, что всё плохо. Симптом в том, что всё «правильно» — но
никто не помнит, зачем. Стратегия соответствует стандарту. Программа
соответствует ФГОС. Контент соответствует алгоритму. Смысл соответствует
ничему— потому что никто не спросил.
Глава 5. Парадокс инструмента: чем умнее ИИ, тем выше риск
Парадокс, который редко обсуждают: чем качественнее работает ИИ, тем выше
риск потери смысла. Плохой результат вызывает сомнение— человек начинает
проверять. Хороший результат вызывает доверие— человек перестаёт проверять.
Идеальный результат вызывает зависимость— человек забывает, как проверять.
Именно поэтому угроза потери смысла будет расти, а не уменьшаться по мере
развития ИИ. Каждый скачок качества модели— это новый уровень доверия, а
значит, новый уровень отказа от смысловой проверки. Решение не в том, чтобы
запретить ИИ или замедлить его развитие. Решение в том, чтобы встроить
смысловой фильтр в саму систему принятия решений— до того, как результат
машины станет решением человека.
Часть II. Почему существующие подходы не решают проблему
Глава 6. Техническая безопасность: контроль, но не смысл
Основной подход к безопасности ИИ сегодня— технический: выравнивание
(alignment), тестирование на токсичность, фильтры галлюцинаций, контрольные
бенчмарки. Всё это важно. Но всё это решает другую задачу: «как убедиться, что
машина делает то, что мы просим, и не делает того, чего мы не просим». Это вопрос
контроля, а не смысла.
Выравнивание гарантирует, что ИИ не выдаст опасную инструкцию. Но оно не
гарантирует, что запрос, с которым человек обратился к ИИ, имеет смысл. ИИ
может идеально выполнить бессмысленную задачу— и это не баг, а фича. Проблема
не в том, что машина ответит неверно, а в том, что человек спросит не о том— и
даже не поймёт этого.
Глава 7. Этика ИИ: ценности без вопроса «зачем»
Этика ИИ обсуждает справедливость, прозрачность, конфиденциальность,
недискриминацию. Это необходимые ограничители. Но этические рамки сами по
себе не содержат вопроса «зачем?». Они говорят: «не навреди», но не спрашивают:
«а ради чего ты вообще это делаешь?». Этика— это стена, которая останавливает
вред. Но смысл— это направление, которое говорит, куда идти. Стена без
направления— это просто забор.
Более того, этические рамки ИИ часто строятся на западных ценностных
моделях, которые сами являются предметом спора в многополярном мире. Нельзя
сказать «справедливость— это X» и ожидать, что все согласятся. Но можно
спросить «в чём смысл этого действия?» — и этот вопрос универсально понятен,
потому что он не навязывает ответ, а требует размышления.
Глава 8. Регулирование: запреты вместо фильтров
Регулирование ИИ идёт по пути ограничений: запрет на определенные
применения, лицензирование моделей, обязательная маркировка контента. Это
нужно— как нужны правила дорожного движения. Но правила дорожного
движения не делают поездку осмысленной. Они лишь снижают вероятность аварии.
Аналогично: регулирование ИИ снижает риск вреда, но не повышает качество
смысла.
Запрет— реактивный инструмент. Он срабатывает после того, как проблема
обнаружена. Прескриптивная экспертиза— проактивный инструмент. Она
срабатывает до того, как действие совершено. Запрет говорит: «не делай это».
Прескрипция говорит: «прежде чем делать, проверь, зачем». Это разные логики:
первая защищает от последствий, вторая— от бессмысленности.
Глава 9. Образование в эпоху ИИ: новые навыки— старый пробел
Образовательный ответ на ИИ обычно формулируется так: «учить промпт-
инжинирингу, цифровой грамотности, критическому мышлению». Это нужно. Но
это навыки работы с инструментом, а не навык удержания смысла. Человек,
который умеет правильно формулировать запрос к ИИ, но не умеет оценивать смысл
результата,
— это не защищённый человек. Это эффективный оператор
бессмысленности.
Критическое мышление в его текущем виде— это проверка источника:
«достоверен ли этот текст?». Но прескриптивное мышление— это проверка цели:
«имеет ли смысл делать то, что этот текст предлагает?». Первое— про доверие к
информации. Второе— про доверие к собственному суждению. В мире ИИ второе
важнее первого, потому что информация будет всегда правдоподобной— но не
всегда осмысленной.
Глава 10. Парадокс контроля: чем больше контролируем, тем меньше
понимаем
Существует парадокс: чем сложнее система контроля за ИИ, тем больше
ресурсов уходит на контроль и тем меньше— на понимание. Мы строим всё более
тонкие механизмы проверки— и всё меньше задаём вопрос о цели. Система защиты
от ИИ становится системой, которая сама нуждается в защите— от потери
собственного смысла.
Прескриптивная экспертиза решает этот парадокс, меняя порядок: сначала
смысл, потом— контроль. Не «проверь, безопасно ли это», а «проверь, имеет ли это
смысл— и если да, проверь, безопасно ли это». Смысл— не замена контролю, а его
основание. Без смысла контроль превращается в самоцель.
Часть III. Прескриптивная экспертиза как структурный ответ
Глава 11. Смысл как то, что ИИ не может произвести
Фундаментальное различие между человеком и ИИ проходит не по линии
интеллекта, а по линии смысла. ИИ может генерировать текст, решать задачу,
прогнозировать результат. Но ИИ не может ответить на вопрос «зачем?» — не
потому, что он недостаточно умён, а потому, что этот вопрос требует не
вычисления, а позиции. Чтобы ответить «зачем», нужно быть кем-то: иметь
идентичность, нести ответственность, знать, что ты хочешь оставить после себя.
Это не техническое ограничение, которое будущие модели преодолеют. Это
структурное различие. Смысл— не функция интеллекта, а функция бытия. Машина
не «есть» — она «работает». Человек не просто «работает» — он «есть», и именно
поэтому он может спрашивать «зачем». Прескриптивная экспертиза— это метод,
который делает это структурное различие рабочим: он использует то, что человек
может, а ИИ не может, как основу системы принятия решений.
Глава 12. Три вопроса как барьер против алгоритмической экспансии
Три критерия прескриптивной экспертизы— идентичность, предназначение,
вклад— это не просто методологические шаги. В контексте ИИ они становятся
тремя барьерами против потери смысла.
Первый барьер— идентичность: «Кто мы?» ИИ не имеет идентичности. Он не
знает, кто он, потому что он— никто. Когда человек задаёт вопрос «кто мы?», он
возвращает решение в контекст своей культуры, своей истории, своей
ответственности. ИИ может предложить решение, но не может ответить, чьё это
решение. Идентичность— это подпись под решением, без которой оно повисает в
воздухе.
Второй барьер— предназначение: «Зачем мы здесь?» ИИ не имеет
предназначения, потому что у него нет места в системе, которое он сам осознал.
Когда человек задаёт вопрос «зачем мы здесь?», он возвращает решение в контекст
системы: государства, региона, общества, культуры. ИИ может оптимизировать
функцию, но не может сказать, почему именно эта функция— а не другая.
Предназначение— это связь между частным и общим, которую машина не может
установить.
Третий барьер— вклад: «Что мы даём?» ИИ не отвечает за последствия. Он
производит результат, но не несёт ответственности за то, что этот результат сделал с
миром. Когда человек задаёт вопрос «что мы даём?», он принимает ответственность
за след. ИИ не оставляет следа— он оставляет вывод. След— это то, что остаётся в
мире после действия. Вывод— это то, что остаётся на экране. Разница между ними
— это разница между осмысленным и бессмысленным.
Глава 13. Прескриптивная экспертиза как «человеческий слой» в ИИ-
системах
Прескриптивная экспертиза— это не внешний аудит, а встроенный слой. Её
задача— не заменить ИИ и не заблокировать его, а обеспечить, чтобы каждый
результат, производимый машиной, проходил человеческую смысловую проверку
до того, как станет действием. Это похоже на роль человека в системах
автоматического управления: автопилот ведёт самолёт, но человек проверяет
маршрут. Здесь— ИИ генерирует вариант, но человек проверяет смысл.
Этот «человеческий слой» не уменьшается по мере развития ИИ— он
становится всё более критичным. Чем мощнее ИИ, тем больше потенциальный урон
от бессмысленного применения его возможностей. Чем быстрее ИИ генерирует
решения, тем важнее пауза для смысловой проверки. Прескриптивная экспертиза—
это именно такая пауза: структурно встроенная, методологически обеспеченная, не
зависящая от личного настроения проверяющего.
Глава 14. Дополнение, а не замена: прескрипция и ИИ в одной
системе
Прескриптивная экспертиза не противопоставляется ИИ. Она его дополняет—
так же, как руль дополняет двигатель. Двигатель даёт мощность, руль даёт
направление. ИИ— это двигатель: он ускоряет генерацию вариантов, анализ
данных, прогнозирование. Прескриптивная экспертиза— это руль: она задаёт
направление, проверяет цель, оценивает вклад. Без двигателя машина не едет. Без
руля она едет— но не туда.
Идеальная система принятия решений в эпоху ИИ выглядит так: ИИ генерирует
варианты и прогнозы ; человек проводит прескриптивную экспертизу (три вопроса
смысла); отобранные варианты возвращаются к ИИ для детализации ; человек
снова проверяет смысл детализированного варианта ; решение принимается. Это
цикл, в котором машина и человек делают то, что каждый умеет лучше: машина—
считает, человек— осмысляет.
Глава 15. Прескриптивная экспертиза как «тормоз смысла»
В инженерии безопасности есть понятие «тормоз» — механизм, который не
позволяет системе уйти вразнос. Прескриптивная экспертиза— это тормоз смысла.
Она не останавливает прогресс, но не даёт системе разгоняться без понимания, куда
она едет.
Без тормоза смысла ИИ-система может за секунды сгенерировать стратегию,
которая формально безупречна, но разрушает идентичность, игнорирует
предназначение и не создаёт вклада. С тормозом смысла— система вынуждена
остановиться на трёх вопросах, прежде чем перейти к действию. Эта остановка— не
задержка, а единственная гарантия, что результат будет не только правильным, но и
осмысленным.
Часть IV. Сценарии применения: где прескриптивная
экспертиза критична
Глава 16. Государственное управление: стратегия, сгенерированная
машиной
Сценарий: ИИ генерирует проект стратегии развития региона. Документ
выглядит профессионально: статистика, цели, индикаторы, дорожная карта. Но без
прескриптивной проверки никто не спрашивает: «Отражает ли эта стратегия
идентичность региона? Соответствует ли она его предназначению? Создаёт ли она
вклад, а не объём?». Результат: стратегия принимается, потому что выглядит
правильно. Через пять лет выясняется, что она ничего не изменила— потому что в
ней не было смысла с самого начала.
Прескриптивная экспертиза в этом сценарии— обязательный этап между
генерацией ИИ и утверждением документа. Машина делает черновик, человек
делает смысл. Без смыслового фильтра черновик становится финалом— и это уже
происходит.
Глава 17. Образование: оценка, поставленная алгоритмом
Сценарий: ИИ проверяет студенческие работы. Алгоритм оценивает структуру,
грамотность, соответствие критериям. Но алгоритм не может оценить, понял ли
студент смысл. Работа может быть формально безупречной— и полностью
бессмысленной. И наоборот: работа может быть неловкой по форме— но глубокой
по смыслу. Без прескриптивной проверки оценка становится метрикой формы, а не
содержания.
Решение: ИИ проверяет форму, человек проверяет смысл. Не «хорошо ли
написано?», а «понял ли студент, зачем это нужно?». Это возвращает образование к
его сути: не передача информации, а формирование способности осмыслять.
Глава 18. Медиа и информация: контент без адресата
Сценарий: ИИ генерирует новостной контент в промышленных масштабах.
Тексты правдоподобны, грамотны, оптимизированы под алгоритмы. Но они не
имеют адресата: не связаны с реальной жизнью конкретных людей, не отражают их
идентичность, не дают им вклада. Это контент без смысла— и он заполняет
информационное пространство, вытесняя осмысленные тексты.
Прескриптивная экспертиза в медиа— это вопрос: «Для кого этот текст? Какой
вклад он даёт?». Не «привлечёт ли он внимание?», а «поможет ли он понять?». Без
этого фильтра медиа превращаются в фабрику шума.
Глава 19. Право: закон, написанный машиной
Сценарий: ИИ участвует в подготовке нормативных актов. Машина генерирует
формулировки, которые технически безупречны. Но машина не может спросить:
«Какой смысл у этой нормы? Какой вклад она даёт обществу? Соответствует ли она
предназначению права?». Норма без смысла— это норма, которая создаёт
обязанность без цели. Соблюдение такой нормы ведёт к бюрократическому тупику:
всё правильно, но никто не помнит, зачем.
Прескриптивная экспертиза в правотворчестве— это смысловой паспорт нормы
до её принятия. Машина пишет текст, человек ставит печать смысла. Без печати—
текст остаётся проектом, не становясь решением.
Глава 20. Экономика: решение, оптимизированное без цели
Сценарий: ИИ управляет инвестициями, логистикой, персоналом. Алгоритм
оптимизирует функцию— но кто задаёт функцию? Если функция— «снижение
затрат», то алгоритм уволит половину персонала. Формально правильно. Но какой
смысл? Какой вклад? Какая идентичность? Без прескриптивной проверки
оптимизация без цели становится разрушением ради эффективности.
Прескриптивная экспертиза в экономике— это вопрос, который предшествует
оптимизации: «Какой смысл имеет то, что мы оптимизируем?». Не «как снизить
затраты?», а «зачем мы это делаем и что останется после?». Машина считает,
человек решает.
Глава 21. Международные отношения: декларация без смысла
Сценарий: ИИ генерирует проект международной декларации. Текст
дипломатически выверен, сбалансирован, формально приемлем для всех сторон. Но
без прескриптивной проверки текст— это набор формулировок, за которыми нет
смысла. Стороны подписывают— и через год забывают, потому что в тексте не
было живого смысла: ни идентичности, ни предназначения, ни вклада.
Прескриптивная экспертиза в дипломатии— это смысловой паспорт документа.
Не «приемлем ли текст?», а «какой смысл мы вместе вкладываем?». Без этого
дипломатия превращается в производство бумаг, а БРИКС и ШОС— в площадки
для коммюнике без последствий.
Часть V. Философские и этические следствия
Глава 22. Смысл как граница человека и машины
Философский вывод этой монографии: граница между человеком и машиной
проходит не по линии интеллекта, а по линии смысла. ИИ может превзойти человека
в вычислении, анализе, генерации. Но ИИ структурно не может превзойти человека
в смысле— потому что смысл требует бытия, а машина не «есть». Это не временное
ограничение, а онтологическое. И если это так, то прескриптивная экспертиза— не
временная мера, а постоянная граница: то, что удерживает человеческое в мире
машин.
Глава 23. Новое неравенство: те, кто спрашивает «зачем», и те, кто не
спрашивает
В эпоху ИИ возникает новое неравенство— не имущественное, не
информационное, а смысловое. Есть люди, которые умеют задавать вопрос «зачем?»
— и поэтому могут управлять ИИ, а не подчиняться ему. И есть люди, которые не
умеют— и поэтому становятся потребителями алгоритмически сгенерированных
решений, не отличая осмысленное от бессмысленного.
Это неравенство опаснее цифрового разрыва. Цифровой разрыв— про доступ к
технологии. Смысловой разрыв— про способность быть человеком в мире
технологии. Прескриптивная экспертиза— это инструмент преодоления смыслового
разрыва: она учит задавать вопрос «зачем?» как практику, а не как абстракцию.
Глава 24. Свобода в эпоху алгоритмов
Свобода традиционно понималась как возможность выбирать. В эпоху ИИ
выбор становится всё более автоматическим: алгоритм предлагает, человек
подтверждает. Но подтверждение— не выбор. Выбор— это действие, основанное
на смысле. Подтверждение— это действие, основанное на доверии к алгоритму.
Прескриптивная экспертиза возвращает свободу как осмысленный выбор. Не
«выбрать из вариантов, предложенных ИИ», а «проверить, имеют ли предложенные
варианты смысл— и если нет, отказаться от них всех». Свобода— это не выбор
между вариантами, а право задать вопрос о цели вариантов. Без этого права человек
— оператор алгоритма, а не субъект решения.
Глава 25. Ответственность: кто отвечает за машинное решение
Когда ИИ генерирует решение, а человек его утверждает, возникает вопрос: кто
отвечает? Технический ответ— человек, потому что он подписал. Но если человек
не провёл смысловую проверку, его утверждение— формальность. Он отвечает не
смыслом, а подписью. Это подмена ответственности: ответственность за решение
подменяется ответственностью за документ.
Прескриптивная экспертиза возвращает ответственность как смысловую, а не
подписную. Не «кто подписал?», а «кто проверил смысл?». Паспорт цели— это не
бумага, а след ответственности: документ, в котором зафиксировано, что человек
задал три вопроса и получил на них ответы. Без этого подпись— печать без
содержания.
Глава 26. Прескриптивная этика: не «не навреди», а «знай, зачем»
Традиционная этика— деонтологическая: «не делай X». Утилитарная: «делай
то, что приносит наибольшую пользу». Прескриптивная этика— третья: «прежде
чем делать что-либо, проверь смысл». Это не заменяет первые две, а предшествует
им. Нельзя решить, вредно ли действие, если не знаешь его смысл. Нельзя оценить
пользу, если не знаешь цель.
В мире ИИ, где действия совершаются мгновенно и в масштабах, недоступных
человеку, эта третья этика становится критичной. Не «не навреди» (ИИ может
навредить, не зная этого), не «максимизируй пользу» (ИИ может максимизировать
пользу без смысла), а «знай, зачем» — это единственный фильтр, который работает
до действия, а не после.
Часть VI. Дорожная карта: внедрение смыслового фильтра в
эпоху ИИ
Глава 27. Принцип 1: Смысловой фильтр— до ИИ
Прескриптивная экспертиза должна применяться до обращения к ИИ, а не
после. Сначала— смысл, потом— генерация. Если человек не знает, зачем ему
нужен результат, ИИ не ответит на этот вопрос— он просто сгенерирует что-то.
Поэтому первый шаг— формулирование смыслового запроса: «Я делаю это, потому
что... (идентичность), для того чтобы... (предназначение), с ожидаемым
результатом... (вклад)». Только после этого— обращение к ИИ.
Глава 28. Принцип 2: Смысловой фильтр— после ИИ
Второй прескриптивный фильтр— после получения результата от ИИ. Машина
выдала текст, план, прогноз. Человек проверяет: отражает ли результат
идентичность? Соответствует ли предназначению? Создаёт ли вклад? Если да—
результат принимается. Если нет— результат отклоняется или дорабатывается. Это
не проверка правильности (это делает ИИ сам), а проверка смысла.
Глава 29. Принцип 3: Обучение прескриптивному мышлению
Метод должен преподаваться как базовый навык— наравне с чтением, письмом
и цифровой грамотностью. Не как философская дисциплина, а как практический
инструмент: «прежде чем действовать, задай три вопроса». Это можно преподавать в
школе (простой уровень), в вузе (системный уровень), в программах повышения
квалификации (управленческий уровень).
Цель— формирование поколения, для которого вопрос «зачем?» так же
естественен, как вопрос «как?». Это поколение будет не уязвимым для ИИ, а
устойчивым к нему— потому что оно сможет использовать ИИ как инструмент, не
позволяя ему стать субъектом.
Глава 30. Принцип 4: Институциональное встраивание
Прескриптивная экспертиза должна быть встроена в регламенты принятия
решений— не как рекомендация, а как обязательный этап. В государстве— до
утверждения стратегий и законов. В образовании— до утверждения программ и
оценок. В бизнесе— до утверждения проектов. В дипломатии— до подписания
деклараций. Везде— один и тот же механизм: три вопроса смысла до действия.
Глава 31. Принцип 5: Международный стандарт смысла
В многополярном мире, где ИИ развивается в разных странах с разными
ценностями, нужен общий язык оценки решений. Прескриптивная экспертиза—
кандидат на этот язык: она не навязывает ценности, а требует смысла. Это делает её
пригодной для международных стандартов— в БРИКС, ШОС, ОИС— как общего
фильтра качества решений, принимаемых с участием ИИ.
Глава 32. Этапы внедрения
Этап 1 (ближайший): разработка учебного модуля «Прескриптивное мышление
в эпоху ИИ» для вузов и программ повышения квалификации. Пилот— в
Татарстане, на базе КФУ. Цель— подготовка 30–50 экспертов, способных
проводить прескриптивную экспертизу решений, сгенерированных ИИ.
Этап 2 (среднесрочный): внедрение смыслового фильтра в государственное
управление— как обязательного этапа между ИИ-генерацией и утверждением
документа. Пилот— в одной отрасли Республики Татарстан. Цель— демонстрация
того, что прескриптивный фильтр повышает качество решений, а не замедляет их.
Этап 3 (стратегический): формирование международного стандарта
прескриптивной экспертизы для решений, принимаемых с участием ИИ.
Презентация в БРИКС/ШОС как общего языка оценки— без экспорта ценностей, с
экспортом метода. Цель— Россия как автор стандарта, признаваемого разными
цивилизациями.
Заключение
Искусственный интеллект— величайший инструмент, созданный человеком.
Но как любой инструмент, он не имеет направления. Направление даёт смысл. Без
смысла ИИ— это двигатель без руля: мощный, быстрый, опасный. Прескриптивная
экспертиза— это руль.
Угроза потери смысла— не фантастика. Это процесс, который уже идёт. Чем
быстрее развивается ИИ, тем больше формально правильных, но бессмысленных
решений появляется в мире. Стратегии без цели. Программы без понимания. Законы
без назначения. Декларации без вклада. Всё «правильно» — но никто не помнит,
зачем.
Прескриптивная экспертиза— не попытка остановить прогресс. Это попытка
вернуть человеку то, что принадлежит ему по праву рождения: способность
спрашивать «зачем?». Машина может ответить на любой вопрос, кроме этого. И
именно поэтому этот вопрос— последний бастион человеческого в мире машин. Не
интеллект, не скорость, не объём данных— а смысл. Смысл— это то, что человек
делает, а машина— нет. И прескриптивная экспертиза— это метод, который
превращает это различие в практику.
Татарстан, как территория цивилизационной трансформации,
— естественная
площадка для первого шага. Здесь можно отработать метод, подготовить экспертов,
показать результат. А затем— передать метод миру, где он нужен больше всего:
миру, который учится делать всё быстрее и забывает спрашивать, зачем.
Глоссарий
Алгоритмическая экспансия— Процесс, при котором алгоритмы ИИ всё больше
замещают человеческое суждение в принятии решений— без проверки смысла.
Выравнивание (alignment) — Техническая процедура настройки ИИ на
соответствие заданным ограничениям. Не решает проблему смысла, только—
контроля.
Идентичность— Ответ на вопрос «кто мы?». В прескриптивной экспертизе— учёт
уникальных характеристик субъекта: культуры, истории, географии, компетенций.
Искусственный интеллект (ИИ) — Система, способная генерировать тексты,
решения и прогнозы в масштабах, недоступных человеку. Не имеет смысла, но
способен его имитировать.
Потеря смысла— Постепенное растворение человеческой цели в потоке
алгоритмически сгенерированных действий, каждое из которых выглядит
разумным, но совокупность которых ведёт в никуда.
Предназначение— Ответ на вопрос «зачем мы здесь?». В прескриптивной
экспертизе— вклад субъекта в систему более высокого уровня.
Прескриптивная этика— Третья этическая парадигма: не «не навреди»
(деонтология) и не «максимизируй пользу» (утилитаризм), а «прежде чем делать,
проверь смысл».
Прескриптивная экспертиза— Смысловой аудит решения до его утверждения и
реализации. Проверка по трём критериям: идентичность, предназначение, вклад.
Прескриптивное мышление— Способность задавать вопрос «зачем?» как
практику, а не абстракцию. Базовый навык эпохи ИИ.
Прескриптократия— Форма управления, в которой любое решение проходит
смысловую проверку до действия.
Смысл— Онтологическая основа человеческого бытия. То, что отличает
осознанное действие от автоматического. Не функция интеллекта, а функция
бытия.
Смысловой разрыв— Новое неравенство эпохи ИИ: между теми, кто умеет
задавать вопрос «зачем?», и теми, кто не умеет. Опаснее цифрового разрыва.
Смысловой фильтр— Обязательный этап прескриптивной проверки между
генерацией решения (человеком или ИИ) и его утверждением.
Тормоз смысла— Метафора прескриптивной экспертизы: механизм, не
позволяющий системе разгоняться без понимания направления.
Человеческий слой— Прескриптивная экспертиза как встроенный элемент ИИ-
систем: то, что удерживает человеческий смысл в мире алгоритмических решений.
Источники
1. Нерсесян Р. С. «Смысл— основа и начало человеческого бытия». Монография.
2. Нерсесян Р. С. «Прескриптивная экспертиза во всех сферах человеческой
деятельности». Монография.
3. Нерсесян Р. С. «Генезис прескриптократии в Республике Татарстан. Территория
цивилизационной трансформации». Монография.
4. Нерсесян Р. С. «Паспорт осмысленного целеполагания, развития и
государственности». Технический документ.
5. Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford University Press,
2014.
6. Frankl V. Der Mensch auf der Suche nach Sinn. / Человек в поисках смысла.
7. Heidegger M. Sein und Zeit. / Бытие и время.
8. Tegmark M. Life 3.0: Being Human in the Age of Artificial Intelligence. 2017.
9. Russell S. Human Compatible: Artificial Intelligence and the Problem of Control. 2019.
10. Crawford K. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial
Intelligence. 2021.
11. Cassirer E. Versuch ;ber den Menschen. / Опыт о человеке.
12. Taylor C. Sources of the Self: The Making of the Modern Identity. 1989.
Автор: Нерсесян Р.С., научный руководитель БФ «Будущих поколений» ИНН
2365035567