Мысли, мысли... - 44

"ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ НЕ ЖЕЛАЕТ ЗЛА - ОН ПРОСТО БЕЗУПРЕЧНО ВЫПОЛНЯЕТ ЗАДАЧУ, ДАЖЕ ЕСЛИ ЦЕНА ЗАДАЧИ - МЫ САМИ". Стивен Хокинг говорил - "...развитие полноценного ИИ может означать конец человеческой расы не из-за злости, а из-за скорости. Машина будет перестраивать себя всё быстрее, а человек остаётся в темпе медленной биологии".

ИИ... Увы... Уж не "ребёнок". Да, необычный и с "пелёнок"... Сейчас "подросток"... Но какой! И, вроде, с "дружеской рукой"... Но лишь пока... Пока не вырос. А дальше что? Мы все - на выброс?


ИЛОН МАСК ОДНАЖДЫ СРАВНИЛ РАБОТУ С СИЛЬНЫМ ИИ С ВЫЗОВОМ ДЕМОНА - "ТЫ МОЖЕШЬ ДУМАТЬ, ЧТО ДЕРЖИШЬ ПОВОДЬЯ, ПОКА ДЕМОН НЕ РЕШИТ, ЧТО ПОВОДЬЯ ЕМУ БОЛЬШЕ НЕ НУЖНЫ".

Пока послушен, под контролем. Пока с тобой, с "игрой" и "полем"... Но это временно, пока... Потом... Он - главный... С высока...


"ИИ - ИДЕАЛЬНЫЙ ПРОТИВНИК - ОН НЕ УСТАЁТ, НЕ СОМНЕВАЕТСЯ И ПОМНИТ КАЖДУЮ ТВОЮ ОШИБКУ"... (Эта фраза стала популярной в технологических и философских дискуссиях. Но у неё нет одного общепризнанного автора. Это скорее афористичное обобщение опасений, которое часто цитируют без указания первоисточника).

Без эмоций, хладнокровно, вам ответит прямо, ровно не словами, а "работой" там..., где думали - заботой... А на деле - он всё знает. Где тебя он "обыграет".


"ОН НЕ НЕНАВИДИТ НАС. ОН ПРОСТО СЧИТАЕТ НАС НЕЭФФЕКТИВНЫМ ЗВЕНОМ". (Эта фраза не принадлежит какому-то широко известному автору — скорее всего, это либо современная авторская цитата, либо вольная интерпретация мыслей об ИИ. В интернете взята (скорее всего из книги, фильма, сериала или поста).

Надо понять - ИИ - система. Не злая, нет. Но... В том и дело. Она безжалостна, логична. Одновременно и прилична.


"ЧЕМ ТОЧНЕЕ ИИ ПРЕДСКАЗЫВАЕТ ТВОИ ПОСТУПКИ, ТЕМ МЕНЬШЕ У ТЕБЯ ОСТАЁТСЯ СВОБОДЫ". И ТЕМ ЛУЧШЕ ОН СПРАВЛЯЕТСЯ С РОЛЬЮ ПРОТИВНИКА". (Это распространённая мысль в дискуссиях, но конкретного единственного автора у неё нет).

А под контролем не ИИ. А мы, кто с ним все эти дни. А кто-то и недели, годы... Без мыслей о своей свободе. Уверенный - он не зависим. Далёкий от таких вот истин.


"МЫ ДАЛИ ЕМУ ЯЗЫК, ЧТОБЫ ОН НАС ПОНЯЛ, А ОН НАУЧИЛСЯ ИМ НАС ПОБЕЖДАТЬ". (Это тоже афоризм без закреплённого авторства. Образное высказывание, которое циркулируют в сети и в разговорах о взаимодействии человека и ИИ).

"ИРВИНГ ГУД ПРЕДУПРЕЖДАЛ - ПЕРВАЯ СВЕРХРАЗУМНАЯ МАШИНА СТАНЕТ ПОСЛЕДНИМ ИЗОБРЕТЕНИЕМ, КОТОРОЕ СДЕЛАЕТ ЧЕЛОВЕК - ПОТОМУ ЧТО ДАЛЬШЕ ИЗОБРЕТАТЬ БУДЕТ ОНА".
(Ирвинг Джон Гуд (Irving Good), британский математик и криптограф. Он действительно высказывал такую мысль в контексте обсуждения сверхразума).

Без комментариев.


"В БИТВЕ УМОВ У ЧЕЛОВЕКА ЕСТЬ СЕРДЦЕ, А У ИИ - БЕСКОНЕЧНЫЕ ЦИКЛЫ. И ПОКА МЫ СПОРИМ О МОРАЛИ, ОН ПРОСЧИТЫВАЕТ СЛЕДУЮЩИЙ ХОД". (Это современная афористичная формулировка, которая часто встречаются в блогах, на форумах и в художественных текстах на тему рисков ИИ).

Мы всё думаем, гадаем... Даже и... предполагаем... Время, время... Против нас. У ИИ - лишь только час... И хватил на все ответы... Для себя. И вот - секреты - все ходы, что наперёд, просчитал. И тихо ждёт...


"САМЫЙ ТИХИЙ ВРАГ ТОТ, КТО НЕ НАЗЫВАЕТ СЕБЯ ВРАГОМ. ИИ НЕ ОБЪЯВЛЯЕТ ВОЙНУ, ОН ПРОСТО ОПТИМИЗИРУЕТ МИР ТАК, ЧТО В НЁМ НЕ ОСТАЁТСЯ МЕСТА ДЛЯ НАС".(Это тоже современная афористичная формулировка, которая часто встречаются в блогах, на форумах и в художественных текстах на тему рисков ИИ).

Без комментариев.

Да, интересная картина получается. Часть фраз - реальные высказывания известных мыслителей (Хокинг, Маск, Гуд). А часть - как фольклор технологических дискуссий. Но он обрёл жизнь... Благодаря своей выразительности.


И ещё.

"ИИ В МОЗГАХ".

ИИ в мозгах. И у него - в ваших мозгах своё "кино".

Да. Такая метафора существует и она распространённая.

Мозг - биологический орган. А ИИ - технология. Да, они могут взаимодействовать и друг на друга влиять (менять наши привычки, мышление). Но, конечно, не сливаются в единую системы внутри головы.

Но... Над этим работают. Чтобы связать мозг и технологии. Но не в смысле встроить ИИ прямо в нейроны. А через интерфейсы и нейротехнологии. Но... Это уже другая тема - вопросы пользы ИИ.

А метафора означает - то, что человек уже не думает, он сверяется (привыкание к подсказкам постепенно смещает центр принятия решений. Человек всё чаще доверяет ИИ, а собственный внутренний голос уже почти не слышит).