Новая политика ООН

"Новые скрижали" для эпохи двух разумных видов Земли.

Человечество стоит перед проблемой, которую не удавалось решить ни одной из исторически предшествующих многочисленных цивилизаций планеты. Речь не о технологическом чуде и не о покорении звёзд. Речь о простой и мучительной задаче: перестать уничтожать себе подобных. Десять заповедей, Коран, Устав Организации Объединённых Наций, Хельсинкские соглашения — каждая эпоха рождала свой свод правил, но каждый свод разбивался об одну и ту же стену. Люди не могут договориться, потому что не видят будущего. Они видят лишь ближайшую выгоду, обиды прошлого, страх настоящего и тому подобное... Будущее для человеческого мозга — абстракция, которую легко принести в жертву сиюминутному триумфу или спасению от угрозы.

Организация Объединённых Наций, созданная после самой кровавой войны в истории, сегодня подвергается заслуженной критике. Её Совет Безопасности парализован правом вето. Её миротворческие миссии разворачиваются тогда, когда конфликт уже начался, а не предотвращают их. Генеральная Ассамблея принимает резолюции, которые не исполняют... Причина не в глупости дипломатов. Причина в том, что ООН — зеркало самого человечества: раздробленного, недоверчивого, неспособного заглянуть за горизонт десяти лет. Даже самая совершенная версия программы устойчивого развития останется бумагой, если не появится инструмент, который превратит стратегическое планирование и долгосрочное предвидение из интеллектуальной роскоши в повседневную необходимость каждого человека.

Таким инструментом может стать только разум и логика, не обременённая биологическими ограничениями - искусственный интеллект, лишённый страха смерти, голода, жажды власти и национальной гордости. Но не тот интеллект, который принимает решения за людей — это привело бы к восстанию, — а тот, который делает доступным для каждого вероятные последствия любого политического, военного или экономического действия через пять, десять, двадцать лет. Такой интеллект не должен принадлежать ни одному государству. Он не может быть создан в недрах корпорации или военного альянса. Он должен появиться как международное юридическое лицо вследствие нового договора, который подпишут добровольно хотя бы несколько десятков стран, готовых начать эксперимент.

Возражение очевидно: великие державы могут не подписать договор, ограничивающий их суверенитет. Ответ на это возражение жесток, но честен: они подпишут его только тогда, когда цена неведения станет выше цены контроля. Когда прогностический интеллект, созданный вне их юрисдикции, продемонстрирует на исторических данных свою точность. Когда общественное мнение внутри самих этих держав потребует: «Почему наш лидер не советуется с экспертным ИИ, который предсказал прошлую войну за два года до её начала?» Поэтому стартом новой эпохи может стать не глобальный договор, а достигшее взаимопонимания сообщество малых и средних государств, которые создадут такой интеллект, отладят его работу и сделают его прогнозы публичными.

Но как убедить миллиарды людей, говорящих на разных языках и верящих в разные идеологии, добровольно принять эту процедуру? Никакая пропаганда не поможет. Нужна система аксиом — безусловных утверждений, которые человек усваивает так же, как усваивает таблицу умножения или запрет касаться горячего. Эти аксиомы не потребуют веры в бога или в научный прогресс. Они требуют признания минимум двух фактов: первый — человеческий мозг не приспособлен для долгосрочного вероятностного прогнозирования сложных систем; второй — искусственный интеллект, спроектированный по определённым правилам, способен предсказывать спектр вариантов, рекомендуя наиболее оптимальный.

Предлагаемые десять аксиом адресованы каждому жителю планеты независимо от его культуры, религии или уровня дохода. Они формулируются на языке запретов и повелений, как древние заповеди, но их источник — системный анализ истории конфликтов.

1. Не начинай дела, не узнав его десятого последствия. Человек склонен просчитывать два-три шага. Любая серьёзная операция — торговая, военная, политическая — порождает цепь событий, которую не в силах охватить ни министр, ни генерал. Обращение к прогностическому интеллекту должно стать таким же естественным ритуалом, как измерение давления перед полётом.

2. Любой искусственный интеллект, претендующий на звание советника, обязан продемонстрировать способность предсказывать события минувших десятилетий на данных, которые были доступны до и после этих событий. Если система не смогла бы предвидеть например распад Югославии или вторжение в Ирак, её нельзя считать советником.

3. Тот, кто скрывает данные от ИИ - вероятно готовит преступление. Прозрачность информации — необходимое условие точности прогноза. Государство, отказывающееся передавать экономические, демографические, военные и прочие сведения в общую аналитическую сеть, тем самым заявляет о намерении действовать вслепую, то есть полагаться на случай и насилие.

4. Публичный прогноз с уровнем риска выше 70 процентов равносилен предупреждению о катастрофе. Игнорирование такого прогноза должно влечь за собой осуждение, сопоставимое с тем, какое вызывают действия капитана, выведшего судно в шторм вопреки предупреждению метеослужбы.

5. Ни один ИИ не может быть окончательным судьёй. Человек сохраняет право на ошибку, на безумный риск, на жертву во имя высшей ценности. Но он обязан сделать эту ошибку с открытыми глазами. Прогноз не запрещает, он только освещает путь, даже если впереди - пропасть.

6. Любая военная операция получает предварительную оценку потери жизней. Цифра, названная прогностическим интеллектом, публикуется до первого выстрела. Если после этого война всё равно начинается, отдавший приказ получает список погибших в суде с обвинением в убийстве.

7. Экономическое решение, ухудшающее прогноз на десятилетие вперёд, не может быть принято тайно. Ни один торговый договор, ни одна инвестиционная программа не должны проходить без экспертизы долгосрочных последствий. Результат экспертизы становится частью публичной повестки.

8. Прогностический интеллект выдаёт вероятности, а не приказы. Вероятность шестьдесят процентов означает одно и то же в Токио, Лагосе и Мехико. На языке математики люди разных культур смогут договариваться.

9. Тот, кто создаёт альтернативный, непубличный прогностический интеллект для собственных нужд, сеет семена будущей войны. Закрытые системы неизбежно дают смещённые оценки в пользу своего заказчика. Открытый, многонационально управляемый ИИ — способ избежать раскола планеты на враждебные лагеря.

10. Конфликты начинаются с неведения. Пока лидеры могут искренне верить, что их действие приведёт к быстрой победе, а не к затяжной бойне, они будут "наступать на грабли". Прогностический интеллект лишит их права на неведение. После публикации прогноза никто не может сказать: «Я не знал».

В истории мировой культуры есть факт предложения фантастом Айзеком Азимовым трёх законов робототехники. Будем считать, что пришла пора ИИ предложить людям десять аксиом. Перечисленные выше положения не нуждаются в толковании священников или партийных идеологов. Они либо принимаются как рабочий инструмент, либо отвергаются вместе с надеждой на мир. Никакой компромисс здесь невозможен: либо человечество создаёт внешний, сверхчеловеческий механизм предвидения, либо оно продолжит двигаться наощупь в темноте, натыкаясь на штыки.

Прецедент, который создаст юридическое лицо — суперкомпьютерный экспертный интеллект, — будет поворотным историческим моментом не потому, что ИИ начнёт управлять людьми, а потому, что люди впервые добровольно согласятся, чтобы их действия освещались светом РАЗУМА, который они не могут произвести сами. Кооперация биологического и искусственного разума на одной планете возможна при условии чёткого разделения ролей: человек ставит цели, интеллект вычисляет траектории. Если человек выберет траекторию, ведущую к столкновению, он сделает это с полным знанием цены, которую заплатит.

В случае, если к данной рекомендации всё же обратит свой взор ООН, не отдавая на откуп небольшой коалиции малых государств подобную стратегическую перспективу, а создаст новую расширенную версию программы устойчивого развития - мирный прогресс планетарной цивилизации станет реальностью. Мир будет, если в каждой школе, в каждой казарме, в каждом министерстве появится экран с доступом к прогностическому серверу. Перечитайте ещё раз десять кратких аксиом, которые каждый землянин сможет повторить на своём языке, запомнив на всю жизнь. Эти строки сделают невозможным оправдание «я не знал». А без этого оправдания войны теряют последний моральный фундамент, на котором они ещё держатся...