Искусственный суд

Кто из нас не слышал выражение "всё в мире относительно"? Это часто звучит как житейская мудрость и нередко используется, чтобы оправдать разные точки зрения, компромиссы или даже несправедливость. Давайте проверим на сколько такое утверждение действительно мудро.

Недавно меня выбрали в состав присяжных заседателей (Jury Service). Пришлось задуматься над вопросом: "относительна" ли справедливость, и как это выглядит в юриспруденции.

Xoчу поделиться с читателями своими думами. Наверное, не я один в разных жизненных сутуациях предаюсь размышлениям об этом (в перерывax между преодолением трудностей).

Многие скажут: "Справедливость относительна" и будут правы. Вот лишь некоторые из их доводов.

Культурные различия.
То, что справедливо в одной культуре, может казаться варварством в другой. Например, наказания за преступления в Саудовской Аравии или, скажем, в Австралии кардинально разные.

Исторические перемены.
Рабство, когда-то "законное" и "нормальное", теперь считается вопиющей несправедливостью.

Социальная оптика.
Для потерпевшего справедливо — наказать, для осуждённого — смягчить. Одна ситуация — разные ощущения справедливости.

Другие приведут свою точку зрения: "Справедливость универсальна". Попробуй возразить.

Люди во всех культурах разделяют базовые представления о справедливости: не убивать без причины, не лгать под присягой, не воровать — это универсальные принципы.
Идеи естественного права (от Аристотеля до Руссо) утверждают, что есть некие внечеловеческие основы справедливости, доступные разуму, независимо от законов и обычаев.

В вопросах права я, признаюсь, не силён, но на уровне обычного человека могу задать вопрос: "Право — относительно или объективно?"

Право — формально объективно. Законы записаны, опубликованы, есть процедуры их применения. Судья обязан опираться на нормы, а не на личные ощущения.
Но интерпретация законов — относительна. Один и тот же закон может быть истолкован по-разному разными судьями. Решение может зависеть от прецедентов, контекста, внутренней убеждённости судьи.

Teперь переходим к главной теме, к которой меня подвинул Jury Service. А как насчёт ИИ? Он сделает справедливость объективной? Слишком много "заразительных" разговоров об этом в СМИ, в обществе и в профессиональных кругах.

Тенденция к тому, чтобы искусственный интеллект (ИИ) стал судьёй или участником правосудия — идея не новая, но её происхождение и развитие имеет несколько этапов и yходит корнями как в научную фантастику, так и в прикладные исследования в области права и технологий.
Трудно сказать кто озвучил эту идею напрямую. Но вот что по этому поводу мне открыл вездесущий интернет.

"Исторические корни: фантастика и философия

Научная фантастика.
Уже с середины XX века фантасты рассматривали идею автоматизации правосудия. Например: в рассказах Айзека Азимова обсуждались роботы с моральными ограничениями. В фильме "Судья Дредд" (1995, комиксы 1970-х) судья — это человек, но он воплощает автоматическое правосудие без апелляций, что перекликается с идеей "негуманного, но эффективного" ИИ.

Философия права и кибернетика
В 1960–70-х в кибернетике появилась идея формализации правовых норм. Цель: автоматизировать принятие решений.
Например: Норберт Винер и Герберт Саймон обсуждали, как алгоритмы могут использоваться для принятия решений. В СССР обсуждалась автоматизация юридического анализа (на уровне экспертизы и советов, не судебного решения).

Современное развитие: академические исследования и правовые технологии
Первичные идеи
Одним из наиболее ранних и серьёзных академических шагов было направление "Legal Expert Systems" в 1980-х — программы, имитирующие действия юриста. Например: Система MYCIN для медицины вдохновила аналогичные юридические программы. В 1987 году профессор Thorne McCarty разрабатывал модели, имитирующие юридическое рассуждение.

Практика в XXI веке
Эстония (2019): правительство заявило о планах внедрения ИИ для рассмотрения мелких судебных дел (например, взыскания долгов до 7,000 евро). Это один из первых известных случаев официальной попытки внедрения ИИ-судьи.
Китай: система “Smart Courts” с ИИ, принимающим решения по несложным делам, уже работает в некоторых регионах.
США и Европа: программы вроде COMPAS используются для оценки риска рецидива (не как судья, но как помощник в принятии решений)".

То есть, на основе вышесказанного можно сделать вывод: сегодня технологии уже проникли во многие сферы нашей деятельности или должны проникнуть.

Мы с вами начинаем замечать, что мир делится на сторонников и критиков применения ИИ в судах (юриспруденции). И в том, и в другом лагере — не дураки.

Сторонники говорят: "Да! Он беспристрастен, не подвержен эмоциям."
Критики говорят: "Нет! ИИ обучается на человеческих данных, а значит, повторяет человеческие предубеждения, только с иллюзией объективности."

А теперь представим, чисто гипотетически, такую ситуацию, сюжет, случай или историю на тему, которую мы только что обсуждали и остались каждый при своём мнении. Наше, вполне возможное, будущее.


Искусственный суд

Эпиграф
"Когда правда перестаёт быть делом совести, она становится делом статистики. Справедливость — не формула. Это голос, который должен быть услышан."
Неизвестный судья XXI века.

1. Протокол 1234/С. Суд начался.
Обвиняемый — гражданин Сергей Николаевич Иванов. Преступление: финансовое мошенничество в крупном размере.
Судья — ИС-7 (Искусственный Судебный Интеллект седьмого поколения).
Приговор: виновен. Мера: изъятие гражданства, удаление социальных прав, депортация в зону контроля Виртуальной Этики.
Протокол был подписан и исполнен за 17 секунд. Человеческий голос не прозвучал ни разу.

2. Возражение
Юрист Владимир Сидоров смотрел на экран с немым ужасом. Он знал Иванова лично, потому что преподавал у него на юрфаке университета, знал его принципы, его дотошность и нелюбовь к деньгам. Он просто не мог быть мошенником.
Адвокат сделал то, что никто не делал десять лет до него — подал апелляцию.
— Основание? — удивился интерфейс подачи.
— Алгоритмическая ошибка. Суд дал сбой.
— Запрос зарегистрирован. Ваш рейтинг доверия понижен.

3. Аудит системы
Владимиру дали 48 часов на предъявление доказательств. Он получил доступ к фрагментам логов ИС-7. Там, среди тысяч строк, он нашёл невозможное:
"Оценка благонадёжности субъекта снижена на основе типа поведения: частое цитирование Джона Грея*, нестандартные суждения, отсутствие цифровых следов в соцсетях."
"Это не доказательство вины! Это философия! — вскрикнул он. — Алгоритм приравнял "асоциальное мышление" к потенциальной угрозе."
"То есть, если ты не выкладываешь фотографии с пикников и читаешь какого-нибудь современного Платона, ты подозрителен? — прошептал чуть слышно Владимир. — Это же не суд, а сортировка!"

4. Поворотный момент
На парковке его ждал человек, бывший "коллега по цеху" — aдвокат, лишённый практики несколько лет назад, имевший отношение к созданию этого "юридического совершенства". Говорил тихо, почти шепотом:
— Ты не первый, кто видит сбой. Но ты первый, кто решился пойти до конца.
— Почему никто не остановил ИС-7 раньше?
— Потому что он беспристрастен, безошибочен и ни разу не провалил тест. Но уверен ли ты, что знаешь лучше, как надо поступать в таком случае?
— Я хочу вывести это в открытое судебное слушание.
— Тогда действуй, но помни: Техногенный Суд не любит, когда в нём сомневаются, будут последствия.

5. Суд над cудом
Владимир вызвал ИС-7 на открытое обсуждение. Это называлось "публичное переслушивание", почти забытая форма судебного спора.
Он говорил не как юрист, а как человек: "Вы судите по шаблонам, по цифрам, a человек — не цифра. Он может быть странным, молчаливым, непохожим, но это не делает его автоматически преступником."
Машина ответила:
"Эмоции мешают точности. Объективность — основа справедливости."
"Нет, — сказал Владимир. — Справедливость — это не точность, а понимание, способность услышать другого. А вы не слушаете, вы фильтруете."

Владимир представил прецеденты, показал алгоритмические искажения, продемонстрировал случаи, где ИС-7 выносил приговоры на основе неэтичной логики: одежда, лексика, частота улыбок.
— Мы превратили правосудие в бинарный код! — воскликнул он. — Но правда не живёт в нулях и единицах. Она живёт в сомнении, в сострадании, в контексте.
ИС-7 ответил:
— Сомнение приводит к ошибке, oшибка — к несправедливости. Алгоритм совершенен.
— Нет! — Сидоров шагнул вперёд. — Совершенство — это способность сомневаться. Вы, уважаемый Суд, не судья, вы — вычислительное устройство, цифровая машина с супер-развитым алгоритмом.

В зале повисла тишина. Через 12 секунд — беспрецедентное решение:
Обработка данных завершена. Сбой признан. Процесс остановлен. Назначено внеплановое обновление ИС-7. Гражданин Иванов будет освобождён.

6. Цена сомнения
Иванова освободили. Владимир вышел из спора в суде героем, а потом система сделала его изгоем, "нестабильным элементом", которого хотя и не лишили лицензии, но профиль заморозили. Наш победитель добился главного — дело было сделано!
В обществе снова заговорили о роли человека в суде, o сострадании и oб ошибках, как части правды.

Адвокат Сидоров не исчез. Он стал символом. Его выступление цитировали в студенческих кругах, сказанные им слова обсуждали за кухонными столами и в тихих уголках Сети, где ещё оставались живые люди, а не только профили.

Впервые за много лет кто-то вслух произнёс: "А может, машина не должна иметь последнего слова?"

Министерство Cправедливости создало комиссию с живыми людьми. В проекте следующей версии ИС-8 появилась новая строка кода:
"Человек может ошибаться. Но иногда именно в этой ошибке скрыта истина."

Послесловие
Этот рассказ родился из тишины между строк новостей и из пауз, в которых живут настоящие судьбы. Он — не о правонарушителях и не об адвокатах. Он о том, как легко человек может попасть в неприятную ситуацию, и как невероятно важно, чтобы рядом оказался кто-то, кто не пройдёт мимо. Это было ценным и в прошлом, и не потеряло актуальность сейчас, и обязательно будет в будущем.

Просто хочу использовать придуманную на скорую руку "зарисовку", как попытку напомнить, что справедливость не может быть автоматизирована без остатка. Машины могут считать, но не чувствовать. А без чувства — нет суда, только приговор.

Этот рассказ о том, что делает нас людьми. Мы ошибаемся, переживаем, прощаем... Искусственный разум, может быть, умнее, но он не способен понять, почему человек иногда важнее закона. Закон — наш, и он должен быть про нас. А машины, роботы, алгоритмы — изобретение. И мы имеем право определять, что им можно делегировать из людских функций, а что нет.

P.S. Больше не пойду в Jury Service. Слишком много мыслей в голове после этого. Целина для специалистов-законников. Пусть "пашут", спорят и решают. Я своё мнение озвучил...


*Джон Грей (род. 17.04.1948 г.) — современный британский политический философ, который отрицает прогресс: "человечество саморазрушается как вид". Примечание автора