Не превратит ли ИИ человека из творца в отборщика?

Не превратит ли ИИ человека из творца в отборщика?
Искусственный интеллект становится одним из наиболее мощных средств расширения человеческих интеллектуальных и творческих возможностей. Учёный может рассматривать больше гипотез, инженер — больше технических решений, дизайнер и архитектор — больше форм и концепций, писатель — больше способов развития мысли или сюжета, художник и композитор — больше образов и творческих вариантов.
Но именно здесь возникает парадокс:
чем больше интеллектуальной и творческой работы человек способен передать машине, тем меньше этой работы ему необходимо выполнять самому.
Это не означает, что ИИ неизбежно делает людей менее способными мыслить или создавать новое. Риск возникает тогда, когда ему систематически передаются именно те операции, самостоятельное выполнение которых развивает и поддерживает наши интеллектуальные и творческие способности.
Если ИИ формулирует проблему, предлагает гипотезы и замыслы, создаёт варианты, строит аргументацию и помогает доводить результат до готовой формы, итог может становиться лучше, тогда как пользователь всё реже проходит интеллектуальный и творческий путь, на котором тренируются эти способности.
Так возникает вопрос: не начнёт ли человек постепенно превращаться из творца в отборщика созданного искусственным интеллектом?
Интеллектуальный результат — ещё не интеллектуальное развитие
Есть принципиальная разница между двумя способами использования ИИ:
«У меня есть идея. Помоги проверить, расширить и улучшить её».
и
«Предложи мне идеи, из которых я выберу лучшую».
В первом случае ИИ преимущественно усиливает человеческое творчество. Во втором он сам задаёт пространство идей, внутри которого остаётся выбирать.
С помощью ИИ можно писать лучше, программировать быстрее, создавать больше визуальных и музыкальных вариантов, находить больше научных, инженерных и дизайнерских решений, одновременно всё реже самостоятельно выполняя операции, которые развивают соответствующие способности.
Интеллектуальная и творческая мощность системы «человек + ИИ» может расти, тогда как некоторые способности самого человека из-за недостаточного использования — ослабевать.
Это не обязательно означает «отупление человечества» или упадок творчества. Точнее говорить об изменении структуры человеческих способностей. Одни навыки станут менее важными, другие — более важными, а ИИ способен освободить интеллектуальные ресурсы для развития способностей более высокого уровня.
Главный вопрос поэтому не в том, будут ли люди думать и создавать меньше, а в том, какую часть интеллектуальной и творческой деятельности они передадут машине и что будут делать с высвободившимися возможностями.
Иллюзия понимания и когнитивный автопилот
ИИ создаёт и более тонкую проблему: доступность объяснения легко спутать с собственным пониманием.
Когда сложный вопрос мгновенно получает ясный и убедительный ответ, возникает ощущение: «Теперь я это понимаю». Но прочитать объяснение — не то же самое, что самостоятельно восстановить причинные связи, аргументировать вывод, найти слабое место и применить знание в новой ситуации.
Получение ответа и построение внутренней модели знания — не одно и то же.
Особенно важной становится метакогниция — способность понимать, что мы действительно знаем, чего не знаем и где заканчивается наша компетентность.
Возникает своеобразный когнитивный автопилот. Чем надёжнее ИИ, тем реже приходится полностью брать интеллектуальное управление на себя. Пока система работает хорошо, это огромное преимущество. Но важно сохранять способность самостоятельно мыслить тогда, когда ИИ ошибается, работает с неполными данными или предлагает убедительное, но неверное решение.
Интеллектуальная самостоятельность становится своеобразной системой когнитивной безопасности.
Но разве технологии и раньше не освобождали человека от умственного труда?
У этой идеи есть сильное историческое возражение. В платоновском «Федре» Сократу приписывается опасение, что письменность ослабит память. Позднее калькуляторы освободили нас от части вычислений, компьютеры — от рутинных операций, поисковые системы — от необходимости помнить множество фактов.
И человеческое мышление не исчезло. Напротив, передача части функций технологиям позволяла направлять интеллектуальные возможности на более сложные задачи.
Было бы ошибкой считать любую когнитивную разгрузку интеллектуальной потерей.
Искусственный интеллект и раньше демонстрировал превосходство над человеком в отдельных интеллектуально сложных областях: символическими вехами стали победа Deep Blue над чемпионом мира по шахматам в 1997 году и победа AlphaGo над одним из сильнейших игроков в го в 2016-м. Но эти системы оставались специализированными. С появлением современных генеративных моделей ИИ стал массовым инструментом, способным участвовать уже не в одной узкой задаче, а в самых разных видах повседневной интеллектуальной и творческой деятельности.
Новизна генеративного ИИ не в том, что машина впервые помогает человеку думать и создавать, а в том, что массово доступные системы способны участвовать во множестве этапов интеллектуальной и творческой деятельности — от постановки проблемы и первоначального замысла до генерации вариантов, критики, доработки и готового результата.
Вопрос поэтому не в том, следует ли вообще передавать интеллектуальную и творческую работу машине, а в другом:
что можно передать ИИ, чтобы освободить человека для развития, а что необходимо продолжать делать самостоятельно, потому что именно эта деятельность развивает способности, которые мы хотим сохранить?
От физической культуры к когнитивной
Технологический прогресс освободил людей от значительной части физического труда, но не отменил потребность организма в нагрузке. Если мышцы и другие физические способности систематически не использовать, они ослабевают. Поэтому современному человеку приходится сознательно возвращать организму то, чего стало меньше в повседневной жизни: ходить, бегать, плавать, заниматься спортом.
ИИ может поставить перед нами похожую задачу в интеллектуальной и творческой сфере. Чем больше операций мы передаём машине, тем меньше необходимости выполнять их самостоятельно. Если некоторые способности систематически не используются, возникает риск их постепенного ослабления или недостаточного развития.
Так наряду с физической культурой может сформироваться когнитивная культура эпохи ИИ — сознательное сохранение и развитие интеллектуальных и творческих способностей в мире, где технологически пользоваться ими самостоятельно становится всё менее обязательным.
Это не означает отказа от интеллектуальной автоматизации. Как физическая культура не требует отказаться от автомобиля и снова повсюду ходить пешком, так когнитивная культура не требует меньше пользоваться ИИ.
Её задача — разумно разделить интеллектуальную и творческую работу между человеком и машиной.
Основной принцип можно сформулировать так:
передавать машине то, что освобождает человека, но не передавать ей незаметно то, что развивает человека.
Иногда полезная трудность — не помеха эффективности, а часть самого развития способности.
Поэтому нет смысла искусственно сохранять все старые навыки. ИИ разумно передавать рутинный поиск, обработку данных, техническое оформление и перебор вариантов. Но особенно важно сохранять способность самостоятельно ставить значимые проблемы, создавать исходный замысел, понимать причинные связи, воображать новые возможности, критически оценивать предложенное, формировать цели и принимать ответственность за окончательный выбор.
Отбор — тоже интеллектуальная и творческая способность
При этом само слово «отборщик» не должно вводить в заблуждение.
Отбор — сложная интеллектуальная и творческая деятельность. Редактор, режиссёр, учёный, художник, архитектор, дизайнер или руководитель могут создавать огромную ценность именно способностью отличать лучшее среди множества вариантов. В мире массовой генерации ИИ эта способность может стать ещё важнее.
Опасность начинается тогда, когда отбор становится почти единственной творческой функцией, а постановка проблемы, исходный замысел, создание вариантов и даже критерии оценки тоже передаются машине.
Та же проблема возникает в изобразительном искусстве, музыке, архитектуре и дизайне: генерация множества вариантов способна постепенно смещать творческую деятельность от самостоятельного создания к отбору и доработке предложенного.
Качественный отбор требует знаний, опыта, понимания, вкуса и собственных критериев.
Задача поэтому не в противопоставлении творчества и отбора:
нужно уметь выбирать лучшее из созданного ИИ, не теряя способности самостоятельно создавать новые идеи, замыслы, образы и решения — в том числе за пределами предложенных вариантов.
Особая ответственность образования
Здесь особенно важно различать взрослого специалиста и ребёнка.
Опытный специалист может передать ИИ часть работы, опираясь на уже сформированные знания, профессиональную интуицию и критерии. Ребёнок, слишком рано передающий машине формулирование мыслей, решение задач, создание идей или творческих вариантов, может сокращать именно ту практику, благодаря которой эти способности должны сформироваться.
Отсюда важный принцип:
прежде чем автоматизировать применение способности, необходимо дать человеку возможность эту способность сформировать.
Это не означает изоляции детей от ИИ. Напротив, умение работать с ним станет важной компетенцией. Но характер использования должен зависеть от возраста и целей обучения.
Образованию придётся всё яснее различать две вещи:
что учащийся способен понять, создать и решить самостоятельно;
что тот же учащийся способен сделать, будучи усиленным ИИ.
Обе компетенции важны. Вторая не должна скрывать отсутствие первой.
Возможно, даже значение диплома изменится. В мире, где качественный текст, программа, изображение или дизайн всё меньше свидетельствуют о собственных способностях автора, сильный диплом может стать своеобразным сертификатом интеллектуальной и творческой самостоятельности.
Когда ответы дешевеют, дорожают вопросы
ИИ делает хорошие ответы всё более доступными. Но это не обязательно уменьшает роль человеческого интеллекта — его ценность может перемещаться на другой уровень.
Когда хороший ответ доступен почти каждому, особенно ценным становится умение понять, о чём вообще следует спрашивать.
Увидеть проблему, которую другие не заметили. Усомниться в исходных предпосылках. Соединить далёкие области знания. Понять, какой из сотен ответов действительно важен.
Хороший вопрос не возникает из интеллектуального вакуума. Он требует знаний, наблюдательности и собственной картины предмета. Поэтому внешняя доступность знаний не отменяет необходимости иметь знания внутри себя.
ИИ всё лучше помогает отвечать на вопрос «как?». Но вопросы «что следует делать?», «зачем?», «ради чего?» и «какое будущее считать желательным?» связаны уже с человеческими потребностями, ценностями и целями.
Ответ расширяет знание внутри заданного пространства. По-настоящему новый вопрос способен изменить само пространство поиска.
В искусстве и дизайне существует близкий вопрос: не только «какой вариант лучше?», но и «какой образ, форма или направление ещё вообще не были предложены?»
Когда вариантов больше, а разнообразия меньше
Есть ещё один парадокс.
ИИ обучается на огромных массивах человеческой культуры. Если миллионы людей используют сходные системы уже на стадии первоначального создания идей, образов и концепций, способы поиска решений и даже постановки творческих задач могут постепенно сближаться.
При этом было бы ошибкой считать ИИ неспособным к оригинальности. Генеративные системы сами способны создавать неожиданные комбинации и расширять творческие возможности отдельного пользователя.
Поэтому индивидуальное творчество при помощи ИИ может даже усиливаться. Проблема возникает на другом, коллективном уровне: результаты множества людей могут становиться несколько более похожими друг на друга.
Риск, таким образом, не обязательно в уменьшении творческих возможностей отдельного автора. Он в том, что творчество множества людей может становиться чрезвычайно разнообразным внутри пространства, во многом сформированного сходными системами, но реже выходить за его пределы.
Контент, созданный при участии ИИ, затем становится частью информационной среды, с которой взаимодействуют следующие поколения людей и последующие системы ИИ. Так потенциально возникает петля интеллектуальной и творческой стандартизации.
Такой исход не неизбежен. ИИ способен, наоборот, знакомить пользователей с идеями, культурами, стилями и областями знания, до которых они самостоятельно не дошли бы. Именно поэтому важно сохранять независимые источники человеческой оригинальности — собственный опыт, знания, культурное разнообразие, индивидуальное восприятие, необычные ассоциации и самостоятельную постановку проблем.
Возникает парадокс, который может стать одним из характерных для эпохи ИИ:
творческие возможности каждого могут расширяться, тогда как разнообразие результатов множества людей — расти значительно медленнее.
Иными словами, одним из рисков эпохи ИИ может стать не недостаток новых идей и образов, а их невиданное изобилие внутри всё более сходных интеллектуальных и творческих рамок.
Что делать?
Для начала достаточно трёх принципов.
Первый: собственный замысел до машинного расширения. В значимых интеллектуальных и творческих задачах сначала сформулировать свою позицию, идею, образ или хотя бы первоначальный замысел, а затем обращаться к ИИ.
Второй: использовать ИИ не только как генератор, но и как оппонента. Спрашивать: «Что я не учёл?», «Где слабость моей идеи?», «Какие существуют альтернативы?», «Как выйти за пределы уже предложенного?»
Третий: регулярно проверять собственную интеллектуальную и творческую самостоятельность. Могу ли я объяснить ответ своими словами? Способен ли самостоятельно создать первоначальный замысел или решить хотя бы основные части задачи? Полезно сохранять некоторую регулярную интеллектуальную и творческую работу без ИИ.
При этом окончательный выбор и ответственность должны оставаться за нами. «Так предложил ИИ» не должно становиться новой формой отказа от ответственности.
Задача не в том, чтобы меньше пользоваться искусственным интеллектом. Задача — пользоваться им на более высоком уровне.
Заключение
ИИ способен стать величайшим интеллектуальным и творческим усилителем в истории. Но мощность системы «человек + ИИ» может расти одновременно с уменьшением необходимости самостоятельно использовать некоторые человеческие способности.
Ответом на этот вызов может стать когнитивная культура — осознанное разделение интеллектуальной и творческой деятельности между человеком и машиной, при котором рост возможностей ИИ сопровождается развитием человеческих способностей, а не постепенным отказом от их самостоятельного использования.
Когда ответы становятся доступными, дорожают хорошие вопросы. Когда вариантов становится почти бесконечно много, возрастает ценность способности выйти за пределы предложенного. Когда ИИ всё лучше отвечает на вопрос «как?», особое значение приобретают вопросы «что?», «зачем?», «ради чего?» и «какое будущее мы хотим создать?».
Отборщик преимущественно выбирает из предложенного; творец способен не только выбирать, но и самостоятельно создавать новое — в том числе за пределами предложенных вариантов.
Возможно, одна из главных развилок XXI века пройдёт не между человеком и искусственным интеллектом, а внутри самого человека. Главная задача когнитивной культуры — сохранить человека творцом в мире, где быть отборщиком станет гораздо легче.
И возможно, через столетие главным вопросом об эпохе ИИ будет не:
«Насколько умными стали машины?»
а:
«Что произошло с человеком, когда машины стали умными?»