Дилемма вагонетки

Дилемма вагонетки в XXI веке: почему «меньшего зла» не существует

Классический этический мысленный эксперимент, известный как «дилемма вагонетки», сегодня перестал быть абстрактной задачей для философов. С развитием беспилотного транспорта и искусственного интеллекта эту дилемму пытаются превратить в техническое задание для инженеров. Однако сама постановка вопроса — кого именно должна сбить машина в критической ситуации — содержит в себе фундаментальную этическую ошибку.

Ложная задача: почему у дилеммы нет решения

В базовом сценарии неуправляемая вагонетка мчится на пятерых человек. У наблюдателя есть рычаг: переключить стрелку на путь, где привязан один человек.

Традиционная утилитарная логика утверждает, что пять жизней важнее одной, а значит, рычаг нужно повернуть ради «минимизации ущерба».
Однако в этой точке совершается подмена понятий. На самом деле такое решение просто не существует.

Любая намеренная, просчитанная жертва — это не «меньшее благо», а абсолютное зло. Нельзя использовать жизнь одного невиновного человека как инструмент или валюту для спасения других. Как только человек (или алгоритм) соглашается нажать на рычаг и сознательно направить удар на того, кто был в безопасности, он не «решает проблему» — он сам становится источником нового зла, примерив на себя функции Бога и палача.

Ошибка «минимизации» и деньги в уравнении

Перенося эту логику на современные технологии, корпорации пытаются научить искусственный интеллект математически взвешивать чужие жизни. Робот должен сосчитать пешеходов, оценить их возраст или статус и выбрать, кого выгоднее убить.

В это уравнение также неизбежно подмешиваются деньги — коммерческая стоимость автомобиля или безопасность покупателя, который заплатил за машину. Но деньги не являются этической величиной. Их в принципе нельзя ставить на одни весы с человеческой жизнью. Пытаться высчитать «допустимую жертву» ради выгоды или комфорта большинства — это социальный дарвинизм, уничтожающий саму суть морали.
Если в основе безопасности большинства лежит сознательное уничтожение меньшинства, вся система изначально отравлена злом.

Единственный выход: отказ от выбора и самоликвидация

Поскольку человек не должен брать на себя функции Бога, а машина не имеет права вершить человеческие судьбы, из алгоритмов необходимо полностью убрать саму функцию выбора жертвы. Робот не должен «минимизировать ущерб», потому что ущерб в человеческих жизнях неизмерим.

Логика должна быть абсолютной:

1. Техника — это всего лишь вещь. Ценность любого неодушевленного железа и программного кода равна нулю по сравнению с человеческой жизнью. Машина не является субъектом права и не может защищать себя за счет человека.

2. Принцип самоликвидации. В критической ситуации у беспилотника должен срабатывать единственный безусловный алгоритм — экстренное торможение и уничтожение самого себя (уход в стену, кювет или саморазрушение конструкции).

Машина должна просто принять удар на себя и перестать существовать. Она не имеет права высчитывать, сколько людей пострадает в салоне или на дороге. Всё, что произойдет после экстренного саморазрушения техники, становится зоной чистой случайности и форс-мажора. Но это больше не будет результатом осознанного выбора компьютерной программы.

Заключение
Безопасность, построенная на просчитанной жертве, дефектна в самом своем корне. Пытаясь научить роботов выбирать «меньшее зло», человечество легализует насилие. Не существует математики, способной оправдать убийство невинного. Роботы не должны решать, кому жить. Техника обязана просто погибнуть, сохранив главный этический закон — абсолютную неприкосновенность человеческой жизни.