Джереми Пэкхем. Подражание Христу в эпоху ИИ

ПОДРАЖАНИЕ ХРИСТУ В ЭПОХУ ИИ
Джереми Пэкхем

За последние 100 лет или около того философы, изучающие технологии, пытались дать определение понятию «технология», рассматривая его с разных точек зрения. Согласно одной из них, артефакт или инструмент - это просто то, что расширяет возможности человека и позволяет нам достигать наших целей. При таком подходе акцент делается на том, как технология помогает нам и влияет на наши действия. Например, «как появление электронной почты могло изменить наши привычки в написании текстов или способах коммуникации», «стали ли мы меньше пользоваться телефоном» и так далее. Как правило, в этом свете технологии воспринимаются как средство, обеспечивающее удобство и эффективность. Можно подумать, что мы можем делать что-то быстрее и проще без негативных последствий.
Другие философы утверждали, что это слишком узкое понимание технологий и что нам нужно разобраться в ценностях, лежащих в основе проектирования и разработки инструментов, а также в том, как инструменты влияют на общество в процессе использования. В этой статье я постараюсь вкратце рассмотреть пять основных вопросов: 1) плюсы и 2) минусы искусственного интеллекта (ИИ), 3) объяснить, что на развитие ИИ и связанные с ним представления влияет мировоззрение, 4) рассмотреть, как ИИ  влияет на нашу человеческую природу как образ и подобие Бога, и, наконец, 5) предложить пути дальнейшего развития.[1].

Не всё так плохо

Оглядываясь назад, мы понимаем, что технологии и инновации повлияли на общество - иногда положительно, иногда не очень. Первые сельскохозяйственные орудия помогли повысить производительность и сократить время, необходимое для обработки земли, а также увеличить объёмы производства продуктов питания. Всё большая механизация приводила к тому, что в промышленно развитых странах для обработки земли требовалось всё меньше людей, что обеспечивало продовольственную безопасность по сравнению с большей частью Африки, где сельское хозяйство по-прежнему остаётся изнурительным и рискованным занятием. Печатный станок, электричество, радио, часы, телефон, телевидение - всё это в значительной степени повлияло на общество как в хорошем, так и в плохом смысле.
Хотя технологии и формируют нас, они не всегда оказывают негативное влияние. Покойный философ Дон Идхе предположил, что технологии оказывают как усиливающее, так и ослабляющее воздействие. Эту идею легко понять, если представить, что телескоп позволяет нам видеть далёкие планеты, но в то же время сужает наше поле зрения.
Осознание того, что мы живём в падшем мире, где есть грех и его последствия, должно помочь христианам понять, как ценности и цели людей могут влиять на разработку технологий, а также на то, как мы их используем. Простой и хорошо задокументированный пример - это то, как платформы социальных сетей используют программное обеспечение на основе ИИ, разработанное для того, чтобы играть на наших пороках, а не на добродетелях, и удерживать нас на платформе. Цель этого - продать больше рекламы, которая окупает «бесплатную» платформу, которой мы пользуемся. Как пользователи социальных сетей, мы сами решаем, сколько времени проводить в них, какие темы обсуждать, как взаимодействовать и позволять ли себе зависимость от них. К сожалению, дизайн платформы способствует скорее плохому поведению, чем хорошему. Это может привести к нарциссическому поведению и токсичным постам, которые слишком часто встречаются в социальных сетях и приводят к ещё большей поляризации мнений. Понимание того, как разрабатываются и используются такие платформы, помогает нам осознать, что некоторые философы, изучающие технологии, правы: ценности действительно влияют на развитие технологий, а экономика играет ключевую роль.

Вы и есть Продукт

Примечательно, что большая часть технологий ИИ, разработанных на Западе, принадлежит относительно небольшому числу крупных технологических компаний, таких как Amazon и Googlea. Эти и другие крупные компании, например Microsoft и Apple, располагали ресурсами для приобретения или инвестирования в другие специализированные компании в области ИИ, такие как Open AI и британская компания Deep Mind. С 2016 года в этот сектор было инвестировано более 500 млрд. долларов, поэтому сейчас существует огромный интерес к его успеху. Бизнес-модель таких компаний, как Google, основана на том, чтобы «пользователь был продуктом», то есть они собирают все его данные, профилируют пользователей и продают эту информацию рекламодателям и другим компаниям.
Нам постоянно твердят, что эта технология принесёт пользу человечеству, повысив производительность и решив такие мировые проблемы, как здравоохранение и изменение климата. Некоторые даже считают, что она может привести к тому, что многим людям не нужно будет работать и они будут получать своего рода универсальное пособие. Это технооптимистичное мировоззрение теперь разделяют многие политики, которые говорят нам, что инновации и производительность необходимы для экономического роста. Кроме того, многие западные страны участвуют в гонке вооружений в сфере ИИ, стремясь превзойти Китай и выйти на первое место. Тот, кто выиграет гонку ИИ, будет править миром.

Столкновение мировоззрений

Нам следует помнить о целях, которые стоят за продвижением ИИ. Компании, которые разрабатывают и продают ИИ, меньше заботятся о его влиянии на общество и отдельных людей, чем о прибыли, которую они стремятся получить, и о доминировании в мире ИИ. Это влияет на разработку и маркетинг этих инструментов, а также на то, как они используются. Примеры социальных сетей, поисковых систем и даже онлайн-покупок показательны, поскольку их цель - создать удобный интерфейс для платформы, чтобы стимулировать вовлеченность пользователей, показывать больше рекламы или продавать больше товаров. Чем более захватывающим является игровой процесс, будь то на смартфоне или планшете, тем больше он увлекает пользователей и тем выше вероятность возникновения у них зависимости.
По иронии судьбы, многие руководители этих компаний недавно предупреждали об экзистенциальных рисках, которые представляет для человечества продвинутый ИИ (так называемый передовой ИИ). Эта повестка оказалась настолько успешной, что в ноябре 2023 года в Великобритании прошёл первый глобальный саммит по безопасности ИИ. В Великобритании и США были созданы институты безопасности, и другие страны, вероятно, последуют их примеру. К сожалению, эти институты больше сосредоточены на устранении предполагаемых рисков в будущем, чем на рисках, с которыми мы сталкиваемся здесь и сейчас из-за того, как ИИ-приложения влияют на нас. Кроме того, они не уделяют должного внимания проблемам меньшинств и маргинализированных групп, связанным с конкретными рисками, такими как предвзятость данных, нарушение конфиденциальности и несправедливость из-за предвзятых автоматизированных решений.
Хотя многие, даже христиане, считают технологии аморальными или нейтральными, нельзя отрицать, что инструменты формируют наше общество, а общество формирует ценности и идеи людей, которые разрабатывают и продают эти инструменты. Мы склонны уделять слишком мало внимания этим аспектам, с энтузиазмом осваивая новые технологии и изобретения. Христиане невольно подстраиваются под окружающий мир, особенно когда то, как мы используем технологии, становится нормой и не подвергается сомнению.
В конечном счёте при разработке ИИ и общего искусственного интеллекта (AGI) мы сталкиваемся со столкновением мировоззрений. Сторонники натуралистического подхода к  мозгу считают, что он представляет собой компьютер, который в конечном счёте можно воспроизвести и даже превзойти. Сейчас часто можно услышать, как приложения на основе ИИ называют думающими или рассуждающими и даже более умными, чем люди. Действительно, ИИ уже начинает влиять на то, как мы воспринимаем самих  себя, и заставляет нас задуматься о том, что значит быть человеком. Однако эти антропоморфизмы далеки от реального представления о том, как работает человеческое мышление. Несмотря на то, что «нейронные сети» и «глубокое обучение», лежащие в основе современных технологий искусственного интеллекта, вдохновлены нейронами в мозгу, они сильно упрощены по сравнению с человеческим мозгом. По сути, это не что иное, как статистические процессы сопоставления шаблонов, обученные на огромных массивах данных, которые, например, определяют вероятность того, что чьё-то лицо или изображение опухоли соответствуют элементам из обучающей базы данных, или, в случае генеративного ИИ, предсказывают наиболее вероятное изображение, видео или законченную историю, соответствующую входным данным. Неудивительно, что эти системы искусственного интеллекта справляются с некоторыми задачами лучше людей, ведь человеку потребовались бы тысячи лет, чтобы прочитать огромное количество информации, на которой они обучались.
Мы должны обращать внимание на то, как окружающий мир, в том числе технологии и ИИ, влияет на наше самосовершенствование, на наше освящение. Мы ведём духовную битву с силами тьмы, и дьявол будет пытаться помешать нашему освящению, нашему уподоблению Христу. Давайте будем осторожны, чтобы удобство, которое предлагают нам некоторые приложения с ИИ или любые другие технологии, не превратилось в эгоизм, в подмену Христа собой в наших привязанностях, «что и есть идолопоклонство».

Задавать правильные вопросы

Нам нужно задаться вопросом: что эта технология делает для нас и что она делает с нами? Почему мы используем именно её, а не что-то другое? Размышляя над этими вопросами, было бы полезно обратить внимание на шесть ключевых аспектов нашей богоданной человечности, , которые могут измениться из-за использования ИИ или любой другой технологии.
 На основе трёх взаимодополняющих аспектов учения об образе Божьем - святости, владычестве и отношениях - можно показать (например,  на диаграмме)  шесть ключевых аспектов человеческой природы, созданной по образу Божьему, которые могут быть ослаблены или отодвинуты на второй план из-за использования ИИ. Приложения различаются по степени риска, что проиллюстрировано примерами от низкого до высокого уровня риска.
Существует целый спектр рисков, связанных с использованием ИИ. Некоторые приложения никак не повлияют на нашу способность верно отображать Христа в тех сферах, где Бог поставил нас, будь то церковь, друзья и семья или работа. Примером может служить использование технологии распознавания лиц в смартфоне для контроля доступа к нему. С другой стороны, когда государство использует ту же технологию для массовой слежки, это ущемляет нашу свободу, неприкосновенность частной жизни и автономию, которые являются важными аспектами нашего подобия Богу. Мы можем выбирать, использовать ли функцию распознавания лиц в смартфоне, но у нас нет выбора, если государство использует её для слежки.
Существует множество приложений, которые мы можем использовать или не использовать по своему усмотрению, но которые оказывают значительное влияние на формирование нашей личности. В таких случаях нам нужно оценить свою вовлечённость и подумать о том, как это повлияет на наше поведение с течением времени, а также как наше использование приложений отразится на других людях и их представлении о Христе, о том, кто Он и каков. Многие приложения затрагивают более одной из шести сфер человеческой жизни. Мы можем задаться вопросом: почему мы используем и разрабатываем такие инструменты, а не полагаемся на свой ум и творческие способности или не спрашиваем у пастора и друзей ответ на интересующий нас вопрос?
Чем более человекоподобной и удобной становится технология ИИ, тем больше она стирает границы между онлайн- и офлайн-миром, в то же время создавая иллюзию большего контроля над нашей жизнью и цифровым миром. Однако факты свидетельствуют о том, что эта технология уже начинает контролировать нас. Детям, например, трудно снять «линзу», через которую они видят мир и взаимодействуют с ним. Цифровые технологии, а всё чаще и технологии на основе ИИ - это уже их мир. Многие привыкли полагаться на эту технологию и чувствуют себя некомфортно, когда она недоступна. Они ощущают неуверенность и испытывают эмоциональный дискомфорт при общении с людьми лицом к лицу. Эта технология стала посредником, с помощью которого мы взаимодействуем с другими людьми и познаём мир. Она стала не чем иным, как цифровым священством. Идолопоклонство можно определить как поклонение чему-то, что мы ценим больше Бога, то есть тому, что нами движет. Когда мы перекладываем на кого-то ответственность за представление о нём, например, используя приложение с ИИ для написания молитвы или рассказа, не отдаём ли мы предпочтение удобству, а не тому, чтобы быть верным свидетелем?

Искусственный интеллект во благо

Как же нам, христианам, следует относиться к использованию ИИ? Учитывая, что использование ИИ потенциально может повлиять на многие аспекты нашей жизни, для начала стоит подумать о том, как конкретный сценарий использования может повлиять на каждую из областей жизни. Есть некоторые практические вопросы, которые мы можем задать себе при использовании приложений, влияющих, например, на отношения. Как правило, нам нужно задаться вопросом, как это приложение может повлиять на нас в долгосрочной перспективе, как оно может изменить нас и что мы можем с этим сделать. Такие вопросы можно задавать и в отношении других областей применения, даже таких, как проверка кредитной истории или анализ нашего заявления о приёме на работу, которые работают в фоновом режиме без нашего ведома. Некоторые юрисдикции, например ЕС, осознавая опасность, стремятся регулировать использование таких областей применения.
Нам также нужно подумать о том, как разрабатывать и внедрять технологии на основе ИИ, которые будут служить человечеству, а не просто стремиться заменить нас. Технологии и ИИ в частности лучше всего использовать для расширения человеческих возможностей, а не для их замены. Они могут усилить то, что мы умеем делать, но при этом не лишат нас человечности. В качестве примера можно привести использование роботов в хирургии, где можно добиться более высокой точности, чем способен обеспечить хорошо обученный хирург из-за ограниченной подвижности рук. Мы можем использовать роботов с ИИ в опасных условиях, например для поиска и обезвреживания мин. Технологии ИИ, такие как машинное обучение, могут выполнять задачи, которые не под силу человеку, например поиск закономерностей в данных для выявления мошенничества или обеспечения кибербезопасности. Генеративный ИИ  и машинное обучение всё чаще используются в «цифровых двойниках» - виртуальных моделях реальных или предполагаемых физических систем и сред, таких как ветряные турбины или производственные процессы. Эти модели помогают улучшить конструкцию и производительность многих физических систем. ИИ также можно использовать для выполнения задач, которые были бы непрактичны для человека, поскольку заняли бы слишком много времени. Это потенциально может ускорить научные исследования в таких областях, как разработка лекарств. Несомненно, машинное обучение имеет множество применений в более узкой сфере - медицинском протезировании и вспомогательных технологиях для людей с ограниченными возможностями. Вместо того чтобы заменять творческий подход и когнитивную деятельность, ИИ может лучше справляться с такими задачами, как проверка программного кода, созданного человеком, на наличие потенциальных проблем, а не с самим программированием. Это лишь несколько примеров того, как ИИ можно использовать во благо человечества, а не во вред ему.. Пример разницы между подлинными отношениями и негативным влиянием, которое ИИ использует в цифровых помощниках, таких как Alexa, может оказывать влияние на них, формируя нас, а также на самоанализ и наш выбор.
Как сообщества Божьего народа, мы можем показать миру другой путь, моделируя подлинное сообщество, основанное на реальных событиях и опыте, где отношения строятся на любви, а не на симпатиях. Мы можем показать, как ценится и прославляется Божий дар творчества, вовлекая в этот процесс других людей, а не отстраняя их от него с помощью так называемых инструментов искусственного интеллекта для создания религиозных материалов или графики для нашей церкви. Намеренное поощрение друг друга демонстрирует, что истинными знаниями и мудростью мы делимся в наших сообществах, а не получаем их из статистического артефакта, обученного на огромных массивах данных, которые не подвергались осмыслению или проверке. Истину можно найти, читая, изучая и обсуждая Слово Божье в сообществе, а наши знания и понимание мира формируются с помощью надёжных источников новостей, критического мышления и общения с друзьями, которым мы доверяем.

Заключение

Следующие несколько лет будут непростыми, поскольку все больше и больше приложений выпускается в ничего не подозревающем мире, проникающем в сферу государственной службы, на наши рабочие места, в наши дома и даже в наши церкви. Когда некоторые компании стремятся разработать AGI и загружать людям мозги в поисках бессмертия без Бога, даже для создания постчеловеческого мира, это напоминает Вавилонскую башню и стремление человека “сделать себе имя”. Мы все знаем, чем это закончилось, и поэтому мы должны действовать мудро. Пусть те из нас, кто занимается разработкой, с осторожностью подходят к созданию ИИ-приложений «потому что мы можем». Как только технология появится, она привлечёт внимание людей и будет влиять на них. Ответственный подход к разработке технологий - это не следование старому девизу  «двигайся быстро и ломай всё подряд». С Божьей помощью и по Его милости Церковь может изменить ситуацию, став той солью и светом, к которым мы призваны. Да ниспошлёт нам Бог проницательности, чтобы мы могли ориентироваться в быстро меняющемся мире ИИ, и да убережёт он нас от того, чтобы мы утратили свою соль и стали пригодны лишь для того, чтобы нас разбросали по земле и растоптали.

Перевод (С) Inquisitor Eisenhorn