Так ли смертельно опасно? Т. Дума

Попалась статья, на которую можно опереться, не тратя слов на изложение хотя бы части тех мыслей, которые возникают последнее время.
Искусственный интеллект – это словосочетание активно входит в общественное сознание. Входит не само, а это целенаправленный процесс.
В пространстве чаще всего появляются слабые статьи, не вскрывающие проблему, или заведомо неглубокие.
Среди них так называемые пугалки и на другой стороне – восторженные возгласы и радужные перспективы.

А вопрос серьезный, он уже касается многих, и процесс этот будет только расти.
Я приведу интервью, которое дал журналисту  Лексу Фридману профессор Университета Луисвилля Роман Ямпольский.  Оно короткое, познакомьтесь:

«Осталось два года». Ученый предупредил о смертельной угрозе человечеству
МОСКВА, 3 июн — РИА Новости. 
Источник: Hi-Tech Mail.ru

«По его словам, под общим ИИ обычно понимается такая система, которая способна действовать во всех сферах, доступных человеку. Однако в последнее время специалисты все чаще ставят знак равенства между ОИИ и суперинтеллектом, который превосходит возможности человека во всех возможны сферах деятельности.
«Если мы создадим общий ИИ, то я не вижу позитивного исхода для человечества в долгосрочной перспективе. Единственный шанс выиграть в эту игру — не играть в нее вовсе», — выразил мнение эксперт.
По его словам, нынешние модели искусственного интеллекта уже соответствуют классическому определению общего ИИ за счет превосходства в интеллекте над средним человеком. Однако технический прогресс вскоре приведет к тому, что даже лучшие специалисты в своих областях начнут уступать ИИ.

Как отметил Ямпольский, искусственный интеллект может как попросту уничтожить человечество, так и попытаться предоставить людям максимальные страдания. Не меньшую опасность представляет исчезновение смысла жизни из-за полного замещения людей ИИ в труде, искусстве и других сферах жизни. При этом создание надежной защиты против против постоянно эволюционирующей и непредсказуемой системы представляется ученому невозможным, добавил он.
Эксперт предполагает, что человечество разработает общий ИИ уже в 2026 году. Того же мнения придерживаются представители индустрии, с которыми он общался.
«Осталось два года. <…> Это очень скоро, учитывая, что у нас даже нет работающих защитных механизмом (против сильного ИИ. — Прим. ред.), даже прототипов», — предупредил Ямпольский.

Ранее Верховный комиссар ООН по правам человека Фолькер Тюрк заявил, что искусственный интеллект, способный генерировать текст или изображения, представляет огромную опасность для человечества. Всемирная организация здравоохранения (ВОЗ) также призывала человечество проявлять осторожность при использовании искусственного интеллекта».

Но ИИ рассматривается как нечто самостоятельное. И не обсуждаются несколько основополагающих вопросов, которые неизбезно возникают при рассмотрении темы.

Прежде всего – кто есть основной заказчик, какие цели он закладывает в этот проект. Деньги, которые выделяются на разработку очень велики.
Второй вопрос, который не менее важен - моральные качества разработчиков программ, сфера передачи другим лицам, которые могут употребить это совершенно в иных целях, иными словами - как осуществлять контроль за всем этим?

Как нож есть просто инструмент, он может  использоваться для разных целей. Ответственность несет не ножь, а тот, кто его использовал.
Тем более, если речь идет об ИИ.

Есть сферы, где применение ИИ оправдано – высокотехнологичные производства, медицина и, конечно, военная сфера.
Но кто определит границу дозволенности входить в частную жизнь?
Уже сейчас она во многом призрачна.

На потребу обывателю вбрасываются нехитрые программы. В общественной сфере мы, вопреки своему желанию, сталкиваемся с роботами. Общение с таким устройством вызывает в лучшем случае раздражение. Он ходит по кругу, задавая нелепые вопросы. Если твоя проблема выходит за рамки вложенных в него вариантов ответа, ты оказываешься в ситуации беспомощности. Ответ не получен, а до человека-сотрудника часто доступа нет.  Тупик. Думаю, многие сталкивались с такой ситуацией. Это плоский пример,но он дает представление о бездушном рациональном мире. Это страшно, реально.
Мир, в котором живут люди без возраста, постояннообновляющие свое наполнение новыми деталями, с лицами, гладкими как попа младенца. Достигнет процесс совершенства, не сомневаюсь, уйдет в прошлое эра страшных, изуродованных лиц, лишенных индивидуальности.

В общественной сфере человек лишается личного пространства, становится полностью контролируемым.
Посмотрите, сколько теперь мы тратим своего времени в аэропортах, часто больше длительности самого полета. В магазинах проходим через раму, везде камеры. А больше ли порядка и безопасности стало? Времена ключа под ковриком давно прошли. Этого уже не остановить.
Но хотелось бы иметь защиту. Не от программ ИИ, а от подлинных целей тех, кто за всем этим стоит.
Представляется – не для блага граждан тратятся такие средства.
Вопрос, который нельзя отпускать на самотек. Если еще не поздно

О таком МИРЕ мечтали люди с давних времен?