ИИ как ИИсус?

Люди не смогут полноценно управлять работой сверхразумных компьютеров, обладающих искусственным интеллектом, утверждают учёные из Центра людей и машин Института развития человека Макса Планка. Вывод специалистов в интервью "Правде. Ру" прокомментировал директор группы компаний DZ systems  Дмитрий Завалишин.

"Во-первых, надо понимать, что для того, чтобы искусственный интеллект стал проблемой для человека, он должен проявлять некоторую активность, то есть быть не просто умнее человека, но и обладать некоторой потребностью что-то делать, чего сейчас не наблюдается и, скорее всего, наблюдаться не будет. Это позитивный момент.

А теперь давайте посмотрим на негативную сторону, она гораздо проще и ближе. Если мы посмотрим, например, на "Яндекс.Такси" или любой агрегатор такси, который сейчас работает, то очевидно, что поведение людей, которые сидят за рулём, управляется некоторым искусственным интеллектом, он очень примитивный и принимает решения с целью оптимизации финансовой выгоды компании-интегратора.

В этом смысле интеллект уже управляет человечеством, управляет им эффективно и это не вопрос живой воли, это вопрос поставленной цели для оптимизации. Системы, которые базируются на искусственном интеллекте, в основном занимаются тем, что они оптимизируют некоторую задачу, которую им поставил человек. Результат процесса оптимизации может быть достаточно неприятным. Но это по большому счёту вопрос не столько к интеллекту, сколько к организации бизнеса",

Люди не смогут полноценно управлять работой сверхразумных компьютеров, обладающих искусственным интеллектом.
Алгоритмы, приближенные к искусственному интеллекту, уже сегодня вызывают опасения.

"Сверхразумные компьютеры воспринимаются сегодня как что-то фантастическое, но в мире уже есть системы, которые выполняют те или иные задачи в полностью автономном режиме, и их создатели не всегда понимают, как именно они этому научились. Если развитие таких систем продолжится, то в какой-то момент они могут начать представлять реальную опасность для людей", — говорит Мануэль Себриан, глава группы цифровой мобилизации в Центре людей и машин Института развития человека Макса Планка.
В существующей парадигме вычислений невозможно создать теоретические ограничивающие алгоритмы, с помощью которых можно сдерживать сверхразумный искусственный интеллект. Поэтому нет гарантий, что ИИ не навредит человечеству.