Зловещая долина современного общества

Анализ негативных аспектов технологии «оживления» фотографий умерших




Вот и настал тот страшный момент для человечества, когда технологии искусственного интеллекта, достаточно прочно проникнув в  мир "живых", начали завоёвывать и мир "мёртвых", предлагая «оживлять» статичные изображения, создавая ролики и целые фильмы, в которых главными героями являются почившие души. То, что еще недавно казалось фантастикой, сегодня доступно любому пользователю через мобильные приложения.
Возможность увидеть, как улыбается, моргает или говорит человек с давно сделанной фотографии, особенно если этого человека уже нет в живых, вызывает у многих сильный эмоциональный отклик. Однако за внешней трогательностью и технологическим чудом скрывается ряд серьезных этических, психологических и социальных рисков.
Главный вопрос, который ставит эта технология: имеем ли мы право использовать образ умершего человека для создания синтетического контента? В отличие от живых людей, умершие не могут дать согласие на использование своего цифрового двойника. Это создает опасный прецедент, когда любой желающий может манипулировать образом покойного родственника или исторической личности.
Технологии «оживления» активно внедряются в коммерческие сервисы (например, генеалогические платформы, кинематография). Пользователей подталкивают к созданию таких видео за плату, превращая глубоко личный процесс скорби в рыночный продукт. Это может рассматриваться как циничная эксплуатация уязвимости людей, переживающих потерю.
Применение ИИ-анимации к историческим фотографиям и хроникам несет угрозу фальсификации истории. Синтезированный «документальный» материал может быть использован для создания фейковых новостей или пропаганды, где слова и эмоции исторических деятелей будут полностью вымышленными. Зритель теряет возможность отличить подлинный архив от качественной подделки.
С точки зрения психологии взаимодействия с ИИ, создание «живого» образа умершего человека несет в себе значительные риски для ментального здоровья скорбящих.
Нормальный процесс принятия утраты подразумевает постепенное отпускание и адаптацию к жизни без ушедшего. Регулярное взаимодействие с реалистичной симуляцией близкого человека может затормозить или исказить этот процесс. Вместо того чтобы смириться с реальностью смерти, человек погружается в иллюзию присутствия, что мешает ему двигаться дальше и может привести к развитию сложного посттравматического расстройства.
Анимация часто не достигает стопроцентной реалистичности. Неподвижные глаза, неестественная мимика или рассинхронизация губ со звуком могут вызывать у зрителя чувство глубокого дискомфорта и отторжения. Вместо утешения такой опыт может стать пугающим и травмирующим.
Эффект «зловещей долины» (uncanny valley) — это психологический и эстетический феномен, при котором объекты, которые внешне или поведенчески напоминают человека, вызывают у наблюдателя дискомфорт, неприязнь, отвращение или даже страх. При этом по мере увеличения сходства с человеком симпатия и эмпатия к объекту обычно усиливаются, но в определённой зоне «почти человеческого» сходства возникает резкий спад позитивной реакции(Википедия).
Создавая видео по своему сценарию (заставляя умершего говорить нужные слова), человек пытается вернуть контроль над ситуацией, которую невозможно было контролировать при жизни. Это создает опасную психологическую ловушку, где скорбящий живет в сконструированной реальности, не желая возвращаться в настоящую.
Следует не забывать, что во многих культурах запрещено имитировать жизнь умершего (например, в иудаизме, исламе, православии). Перенос мёртвых в мир живых ("оживление") - это беспрецедентный подрыв традиционных практик веры, который толкает человека к нарушению канонов бытия, создавая иллюзию вечной жизни.
По мимо всего выше перечисленного, синтезированный образ близкого человека может быть использован для мошеннических схем. Например, злоумышленник может создать видеообращение от имени «сына» или «внука», просящего о срочной финансовой помощи. Пожилые люди, для которых грань между реальным и виртуальным миром может быть размыта, становятся особенно уязвимой мишенью.
Образы умерших могут быть использованы для создания оскорбительного или компрометирующего контента с целью давления на их живых родственников.
Превращение образа человека в легко редактируемый цифровой файл снижает ценность человеческой личности и памяти о ней. Возникает риск того, что в будущем цифровые двойники будут создаваться и использоваться без всякого уважения к памяти усопших.
Технология «оживления» фотографий умерших представляет собой классический пример двойственного характера инноваций. С одной стороны, она демонстрирует невероятные возможности искусственного интеллекта. С другой — ее применение в столь чувствительной сфере поднимает острые этические и психологические вопросы.
Перед обществом стоит сложная задача: найти баланс между технологическим прогрессом и сохранением человеческого достоинства. Вероятно, в будущем потребуется не только развитие технических средств для распознавания таких подделок, но и создание строгих этических кодексов и правовых норм, регулирующих использование цифровых образов умерших людей. Пока же главным инструментом защиты остается критическое мышление и осознанное отношение к тому, что мы видим на экране: не все то живое, что движется.