Основные принципы создания ИИ

Большинство людей боятся даже упоминания про Высший Разум. Наверное, думают, что Высший Разум где-то далеко, в небесных сферах — нам его не достигнуть и он к нам не снизойдёт и т.д. и т.п. А он — вот, он — рядом и его проявлениями мы уже пользуемся — компьютер, например. Или компьютерные сети, интернет, экспертные системы.

Искусственный интеллект уже сделал возможным создание инструментов, по всему миру приносящих пользу тем, кто ими пользуется. Дальнейшая разработка ИИ в соответствии с представленными ниже принципами может открыть удивительные возможности для помощи людям на десятилетия и даже века вперед.

Некоторые принципы работы ИИ, предложенные на АСИЛОМАРСКОЙ КОНФЕРЕНЦИИ
в Асиломаре,(Калифорния, США), прошедшей в 2017 году.


Область исследований.
1) Цель исследования: цель исследований ИИ должна лежать в области создания не бесцельного разума, но систем, направленных на принесение пользы человечеству.

2) Финансирование исследований: инвестиции в ИИ должны сопровождаться субсидированием исследований, направленных на поиск полезных способов применения ИИ, в контексте которых рассматриваются непростые вопросы из области компьютерных наук, экономики, права, этики и социальных наук. Некоторые из таких вопросов:

Как обеспечить надежность будущего ИИ таким образом, чтобы системы выполняли свою программу, не подвергаясь угрозе сбоев и хакерских атак?

Как повысить уровень благосостояния с помощью автоматизации процессов, не сократив при этом уровень человеческого труда и сохранив его назначение?

Как, сделав правовую систему более эффективной и справедливой, модифицировать ее в соответствии с развитием ИИ и учесть все правовые риски, связанные с его использованием?

Какие ценностные ориентиры должны лежать в основе ИИ и каким правовым и моральным статусом он должен обладать?

Диалог ученых и политических деятелей: необходим конструктивный и здоровый диалог между исследователями ИИ и политическим руководством.

Культура отношений в исследовательском сообществе: среди исследователей и разработчиков систем ИИ должна поощряться культура взаимодействия, доверия и открытости.

Отсутствие конкуренции: команды разработчиков ИИ должны активно взаимодействовать друг с другом во избежание ненадлежащего исполнения стандартов безопасности.

Этика и ценности.
Безопасность: системы ИИ должны быть безопасны и защищены на протяжении всего срока эскплуатации, а в ситуациях, где это целесообразно, штатная работа ИИ должна быть легко верифицируема.

Открытость сбоев в системе: если система ИИ причиняет вред, должна быть возможность выяснить причину.

Открытость системе правосудия: любое участие автономной системы ИИ в принятии судебного решения должно быть удовлетворительным образом обосновано и доступно для проверки компетентным органами.

Ответственность: разработчики и создатели продвинутых систем ИИ напрямую заинтересованы в моральной стороне последствий использования, злоупотребления и действий ИИ, и именно на их плечах лежит ответственность за формирование подобных последствий.

Синхронизация ценностей: системы ИИ с высокой степенью автономности должны быть разработаны таким образом, чтобы их цели и поведение были согласованы с человеческими ценностями на всем протяжении работы.

Человеческие ценности: устройство и функционирование систем ИИ должно быть согласовано с идеалами человеческого достоинства, прав, свобод и культурного разнообразия.

Защита личных данных: люди должны иметь право на доступ к персональным данным, их обработку и контроль, при наличии у систем ИИ возможности анализа и использования этих данных.

Свобода и конфиденциальность: применение систем ИИ к персональным данным не должно безосновательно сокращать реальную или субъективно воспринимаемую свободу людей.

Совместная выгода: технологии ИИ должны приносить пользу максимально возможному числу людей.

Совместное процветание: экономические блага, созданные при помощи ИИ, должны получить широкое распространение ради принесения пользы всему человечеству.

Контроль ИИ человеком: люди должны определять процедуру и степень необходимости передачи системе ИИ функции принятия решений для выполнения целей, поставленных человеком.

Устойчивость систем: те, кто обладает влиянием, управляя продвинутыми системами ИИ, должны уважать и улучшать общественные процессы, от которых зависит здоровье социума, а не подрывать таковые.

Гонка вооружений в области ИИ: стоит избегать гонки вооружений в области автономного летального оружия.

Долгосрочная перспектива.
Опасность недооценки возможностей: стоит избегать уверенных предположений относительно верхнего порога возможностей ИИ будущего, особенно в отсутствие консенсуса по этому вопросу.

Важность: продвинутый ИИ может повлечь коренные изменения в истории жизни на Земле, и его разработка и управление должны осуществляться при наличии соответствующих ресурсов и в условиях особой тщательности.

Риски: потенциальные риски, связанные с системами ИИ, особенно опасность катастроф или угроза существованию жизни в целом, должны купироваться действиями по планированию и смягчению рисков, соразмерными возможному масштабу воздействия.

Рекурсивное автообучение: системы ИИ, разработанные для улучшения эффективности собственных алгоритмов и самовоспроизведения, ведущего к быстрому изменению качества и количества, должны быть объектом применения мер жесткого регулирования и контроля.

Всеобщее благо: "сверхразум" должен быть разработан исключительно в целях, соответствующих большинству этических идеалов и для пользы всего человечества, а не одного государства или организации.

Нанотехнологии - это, как и проблема глобального потепления климата, сегодня выглядит очередным блефом и с научной точки зрения выглядит футуристическим проектом, оторванным от реальности. Ведь есть вещи и помельче, чем нано уровень атомов и молекул. И почему бы не начать строить материю прямо из "божественных частиц" - бозонов, раз уж Хиггсу за их открытие присудили Нобелевскую премию. Или, всё-таки, с помощью БАК в Швейцарии не удалось доказать существование бозонов, как утверждает сам мистер Хиггс?

В физике существует элементарное представление о плазме - четвертом состоянии вещества помимо всем хорошо известных (твердого, жидкого, газообразного), которое появилось сравнительно недавно. В отличие от вещества и поля, в плазме не обнаружены молекулы и атомы, - она содержит лишь элементарные частицы.

Если уж собирать идеальные структуры, то - из самых элементарных частиц, а не из атомов и молекул. Так что утопическая теория ассемблеров от г-на футуриста Дрекслера не стоит даже выеденного яйца. Поэтому значение нанотехнологий не стоит переоценивать. 

Никто сегодня уже особо и не спорит, что Высший Разум (Сверхразум) теоретически вполне может быть. И не исключено, что даже уже существует. Но вот в чем парадоксальная штука заключается: а как мы узнаем о его существовании? Из газет? Или по собственной способности его оценить и сделать соответствующий вывод? А кто возьмет на себя такое нахальство утверждать, что его личный разум достиг такого уровня, что он способен оценить наличие Сверхразума? Это под силу только Богу.

Так что, если Эпоха Сверхразума и настанет, мы никогда об этом не узнаем по той простой причине, что у нас нет возможности самим оценить и осознать случившееся. Скорее всего, он возьмет нас изнутри. Человек вообще хил на мозги. Поэтому он никогда не был "оптимальной структурой", а всегда "притворялся" выдавать себя за то, что из себя не представляет , являясь всего лишь простейшей рациональной афферентной биосистемой, одной из возможных моделей борьбы за выживание. Не больше того.

Весь  интеллект современного "человека разумного" опирается на примитивный перебор подручных вариантов из совершаемых проб и ошибок, которые почему-то никого и ничему так и не научили. Человек несовершенен. Поэтому он просто не сможет делать квалифицированные оценки наличия или отсутствия Сверхразума. Не дано свыше.

С помощью ИР и ИИ "дураки" и "умники" исчезнут как понятия. Мы просто не сможем отличить дурака от умного, так как будем с помощью чипа и микрофона, спрятанного за ухом, совместно подключены к Всемирному Разуму, в виде всемирной системы ИИ в инернете. Ни один умный не сможет обнаружить дурака, поскольку "дурак" переадресует все вопросы "умника" экспертной системе и "умник" со своим заумными вопросами сам останется в дураках.

Если есть желание и умственные способности, то можно отнести эти вопросы только к области социальной когнитивистики. Умение задавать умные вопросы, как известно, гораздо ценнее, чем умение давать ответы на них. Но и спрашивать надо так, чтобы не пришлось самому на них отвечать.

Использование основных принципов создания искусственного интеллекта должно включать предварительные ответы, например, на такие фундаментальные вопросы:

1) Что такое интеллект?
2) Что такое естественный интеллект (ЕИ)?
3) Что такое искусственный интеллект (ИИ)?
4) Чем ИИ отличается от ЕИ?
5) ИИ вместе с человеком или вместо человека?
5) Какие функции ИИ необходимы в помощь человеку?
6) Какие сферы деятельности человека требуют помощи ИИ?
7) Какова роль ИИ в формировании сознания человека?
8) Какова роль ИИ в общественной и политической жизни людей?
9) Какие профессии заменит или исключит ИИ?
10) Представляет ли угрозу существованию человечества ИИ?
11) Что такое "сверхразум" или "всемирный разум" ?
12) Возможен ли "сверхразум" или "всемирный разум" ?
13) Чем "сверхразум" или "всемирный разум" будет отличаться от ЕИ и ИИ?
14) Какова роль ИИ в проблеме выживания человечества?
15) Сможет ли ИИ защитить человека от агрессии рынка?
16) Сможет ли ИИ повлиять на творческие и умственные способности человека?
17) Какова возможная роль ИИ в развитии духовной составляющей жизни человека?
18) Сможет ли ИИ прогнозировать и устранять мировые конфликты?
19) Противоречит ли ИИ интересам религии?
20) Какова возможная роль ИИ в защите потребителей?
21) Нужна ли для нормального функционирования ИИ соответствующая его уровню интеллектуальная среда? (Вместо или вместе?)
22) Что такое искусственная (ИЖ) и естественная жизнь (ЕЖ)?
23) Что является смыслом ИЖ И ЕЖ жизни? Есть ли различие? Если есть, то в чем?
24) Какова роль ИИ в обеспечении смысла жизни?
25) Уменьшит ли ИИ срок обучения детей в школе?
26) Нужна ли школа вообще при наличии ИИ?
27) Что, по - Вашему, никогда не сможет делать ИИ?
28) Исчезнут ли дураки с появлением ИИ?
29) Какие функции мозга человека не сможет заменить ИИ?
30) ИИ - это решение старых проблем или создание новых?
31) Нужен ли вообще ИИ?
32) Что Вы ожидаете от создания ИИ - облегчения жизни в настоящем, счастливое будущее или новых тревог от его непредсказуемости?

Искусственный интеллект нужен не для замены человеческого мышления, а в помощь ему. Он нужен не для выживания, а для для лучшего понимания того, как наше мышление и мозг работают, то есть, для осознания и понимания, в первую очередь, нас самих себя. Со всеми вытекающими из понимания механизмов мышления глобальными последствиями — как для отдельно взятых людей, так и для всей Вселенной.