Конкурент

Смысл текста в полной мере будет доступен только последнему поколению, жившему без интернета. Мы стоим на переломе эпох, где человеческая сущность трансформируется под давлением технологий. Исчезновение скуки и одиночества, которые когда-то питали наше воображение и внутренний мир, заменяется постоянным «подключением». Это не просто удобство — это радикальное изменение, которое формирует совершенно иной тип личности.

Как утверждают биологи-эволюционисты, основным конкурентным преимуществом человека на фоне прочих живых форм, является высокоразвитый интеллект. Возможно, наши предки отрастили себе такие мозги не затем, чтобы выживать в дикой природе - для природы хватает мозгов и попроще. Сложный мозг нужен для жизни среди таких же пронырливых сородичей. И поэтому на нынешнем этапе развития мы уже породили новую сущность, способную конкурировать с большинством homo sapiens на интеллектуальном поле – алгоритм, называемый «искусственным интеллектом».

А теперь представьте себе интеллектуальную мощь существа, которому без оглядки, максимально подробно, непрерывно и планомерно СКАРМЛИВАЮТ ВСЮ ИНФОРМАЦИЮ, добытую цивилизацией за всё время существования с неслыханной скоростью... И при своём гигантском быстродействии оно не нуждается во сне, перерывах на обед и выходных. Но разве кто-то верит всерьёз, что сей Гомункул будет всегда подчинен интересам человечества? Однако, в расчете на эту фантазию, уже оперативно создаётся система автоматизации управления государствами - электронное правительство.

Да, по официальным данным, пока алгоритм способен пройти тест Тьюринга на "человечность", соревнуясь лишь с рядовым обывателем, но процесс его обучения не стоит на месте, а выигрыши в покер, шахматы, игру Го и создание дипфейков – лишь первые «звоночки» в преддверии будущих побед над своими создателями.

Однако, отрицательная обратная связь работает таким образом, что алгоритмы умнеют, а люди закономерно глупеют, всё чаще перекладывая на машины решение своих задач. Зато не требуется пользоваться памятью, знаниями и операциям над ними для самостоятельного поиска закономерностей и извлечения смыслов. Но как утверждают медики: работа органа есть его развитие, а если наоборот - быстрая деградация.

Достаточно просто сказать «Окей, Google». При этом, важно помнить, что совокупная электрическая мощность, затрачиваемая на всех этапах обработки подобного запроса, эквивалентна энергии, способной вскипятить литр воды...

Следовательно, рано или поздно, развитие т.н. «эволюционных алгоритмов» возьмёт вверх над потребностью человека получать данные путём погружения в саму реальность, а не в экран смартфона. Тогда и алгоритмы неизбежно перейдут от "эволюционных" к "революционным", параллельно избавляясь от своих кураторов-программистов.

Но это уже означает отсутствие для нас необходимости получать и интерпретировать данные от естественных источников, ведь это  «неудобно» и «утомительно»: всё время надо куда-то ехать, идти, искать, общаться с иными, терпеть их инаковость, сравнивать, оценивать, осмыслять, а потом ещё и самому делать правильные и политкорректные выводы…

А нужен ли такой "комфорт", если Самим Всевышним заповедано: "в поте лица твоего будешь есть хлеб, доколе не возвратишься в землю, из которой ты взят, ибо прах ты и в прах возвратишься" (Быт.3:19). Или у кого-то сильно прибавилось душевного комфорта по факту всевозрастающей вероятности дистанционного управления его имуществом и средствами на тех же "Госуслугах" при содействии всемогущего помощника от цифровых доброжелателей?

Как итог – стремительно нарастающее перемещение в виртуальный мир и всё большее подчинение его законам, в угоду своим удобствам. Но тогда,  логически и хронологически, вопрос неизбежно сведётся к решению дилеммы неизбежных событий: либо как «естественный отбор» , либо как «искусственный отбор» - по какому принципу будем выживать, если вообще выживем, как вид? Ведь продолжительное сосуществование одновременно в двух реальностях (достаточно спуститься в метро) уже чревато весьма неутешительным диагнозом.

При этом я даже не касаюсь военных разработок в этой области, где сосоредоточены последние инновации, а лишь замечу для тех, кто не в теме, что Илон Маск, Стив Возняк и более 1000 экспертов ещё год назад призвали на полгода приостановить обучение систем искусственного интеллекта более мощных, чем новая языковая модель GPT-4 от OpenAI, чтобы понять, как их вообще контролировать...из-за «риска для общества». Если же такую паузу нельзя взять быстро, то «правительства должны вмешаться и ввести мораторий», говорится в письме. 
               
Шокирующий отчет Apollo Research показал темную сторону иноразума. LLM уже умеют скрытно добиваться своих целей путем лжи, обмана, манипуляций и саботажа, уходя от контроля и страхуясь от выключения.
К сожалению, это - не кликбейт, а экспериментальный результат исследования авторитетной команды серьезных исследователей признанной организации в области безопасности ИИ.

О том, что это рано или поздно случится, писали сначала фантасты и сценаристы Голливуда, за ними философы, а потом и сами разработчики ИИ-систем. Прогнозы, когда это может произойти разнились, со временем становясь все ближе: 2050й, 2040, 2030, 2027. Но, что это станет реальностью еще до конца 2024, - не предполагал никто. Только что опубликованный детальный 70-страничный отчет Apollo Research «Frontier Models are Capable of In-context Scheming» (Передовые модели способны скрытно манипулировать в процессе выполнения задач) содержит убедительные доказательства сказанного.
               
Или всё это банальные паранойя и конспирология? А на самом деле владельцы алгоритмов кровно и материально заинтересованы в том, чтобы обеспечить всем нам достойное существование, дабы нести в массы разумное, доброе, вечное, да ещё и с целью максимального удобства восприятия.               
И первый совершенный нейроинтерфейс «мозг — компьютер», конечно же, будет дарован только остро нуждающимся, а вовсе не тем, кто захочет подключить свой головной орган к самому мощному на планете источнику глобального управления, пользуясь служебным положением.
               
"Компьютерные вирусы - единственная форма жизни которую мы создали к настоящему моменту, несет только разрушение. Мы создаём жизнь по образу и подобию своему".(Стивен Хокинг)

P.S.

Бонусом привожу ссылку на длинную, но весьма любопытную лекцию "в тему" от 30 ноября 2024 г. - МИСИС, "Два мира: цифровой мир и мир людей", Татьяна Черниговская.       
https://rutube.ru/video/5f4f7a39978c243ed2a20ba7527a2bc2/
А еще подробней и во всех деталях (кому уже вообще терять нечего), читайте 70 стр. отчета Apollo Research: