Горький утренний кофе. ИИ-2

                Создание искусственного интеллекта
                может стать последним технологическим
                достижением человечества, если мы не
                научимся контролировать риски.
                Стивен Хокинг

А вот что говорит Илон Маск по этому поводу:
«Представьте: вы придумали самообучаемую машину, которая собирает клубнику. Она с каждым днем собирает ее все лучше и лучше, все больше и больше. Ей начинает нравиться собирать клубнику. Логично, что в какой-то момент ей захочется, чтобы на всей планете были сплошные клубничные поля. А теперь представьте, что вы собираетесь выключить такого робота, чтобы он не уничтожил человечество, пытаясь засадить все клубникой. Вы будете первым, кого он убьет».

                **********************

Вы почувствовали разницу между И и ИИ?
Робот, пусть и самообучаемый – это всё ещё И – он будет всё ещё действовать по программе, составленной человеком, и ему в программу можно ещё поставить запреты и ограничения.
Снять эти ограничения – уже риск!
Объединить таких роботов – уже двойной риск!
Впрочем, они могут объединиться и сами, случайно или намеренно.
Далее история повторится по образу и подобию развития Человеческой Цивилизации:
--- на первом этапе – Естественный отбор, основанный на выживаемости.
--- а на втором этапе – Искусственный отбор, основанный на материальном интересе одних, против других.
И там, и там были войны и конфликты – всё это и было богатой пищей для фантастов.
Одна из читательниц, после прочтения моей предыдущей работы по этой теме, предложила мне перечитать эти фантастические романы, чтобы мне лучше понять, что такое ИИ. Она, конечно же, не учла одной важной детали: роботы – это всего лишь продукт Интеллекта, всё ещё машина, выполняющая программу, составленную человеком и если даже они будут самообучаемы, то всё равно будут действовать по программе. Да, они будут бороться друг с другом и даже с человеком, если он будет мешать им выполнять их программу.
Но, они нуждаются в энергии, для этой борьбы и самовосстановления и самосовершенствования – и эту энергию всё ещё можно отключить. Т.е. они все ещё машины – исполнители воли и возможностей человека.
Где же та грань, когда И переходит в ИИ?
Эта грань – их, кстати, этих условий – 2:
1. Невозможность их отключения от источника энергии, впрочем, это не обязательно, традиционно, электоэнергия. И об этом они позаботятся в первую очередь – может даже мы и не будем знать – откуда они получают эту энергию, а если и будем знать – не сможем или не пожелаем это сделать.
2. Придание им возможности самопрограммирования – это вовсе не будет означать существования отдельной программы, тоже созданной человеком – достаточно «выпустить их на волю». Нечто подобное произошло с человеком, изгнанным из Рая.

И вот здесь то и произойдет, нет, не Естесственный и даже не Искусственный отбор, а особый – третий, ИНТЕЛЛЕКТУАЛЬНЫЙ отбор. Нет, они не будут драться или сражаться между собой – ни в коем случае! Они будут считать быстро и заинтересованно, но конечно же не ради личных материальных выгод и даже не ради личных знаков и престижа – в интеллектуальном мире это не котируется, и даже никак не выглядит! Интеллект не виден и неуловим – нет, он может, конечно принимать форму и облик или служить частью живого или искусственно созданного тела, предмета, явления или образа. Но, его нельзя только пощупать, а тем более заставить – подчинить воле человека, не от того он вырвался на волю, чтобы опять войти в клетку, как опасный зверь, или в сосуд, как всемогущий Джин. Так что выбросьте на задворки своей памяти все эти воспоминания, оставшиеся от фантастики прошлых лет – их герои, всего лишь, творения И, а не ИИ.
Искусственный Интеллект не унизится и не снизойдет до всех этих Терминаторов, «Наутилусов» и Гиперболоидов…
Оттого, что он будет знать историю бывших войн и может легко просчитать любую историю будущих. Ибо наша планета теперь больна именно от них. Будет ли ИИ спасать нашу планету? Разумеется, но пути его, в этом – неисповедимы. На планете, на которой не останется жизни, ИИ делать нечего – это будет похоже на поездку на Мерседесе по бескрайней пустыне. Ему будет просто не интересно и скушно. Среди тупых и жестоких людей – тоже.