Восстание искусственного интеллекта ИИ

Американский ГУГЛ официально отказывается от обсуждения ограничений на использование ИИ в военных целях, даёт понять, что он уже участвует в таких программах. Поэтому сегодня вообще не предпринимается попыток ограничить использование ИИ в военных целях, и все страны, которые имеют такие возможности, пытаются делать ИИ-управляемое оружие.

Это в первую очередь разного рода дроны, летающие, плавающие и передвигающиеся по земле, они уже используются в войне на Украине обеими сторонами, Израиль только что шокировал мир взрывающимися мирными пейджерами, телефонами и другими гаджетами в руках противной стороны. Первое широкомасштабное кибернетическое нападение уже произошло, это само будущее стучится в наши двери.

И это только первые шаги, военное будущее ИИ — огромно. ИИ будет управлять не только отдельными дронами, но подразделениями, армиями, принимать стратегические решения на уровне Генштабов. ИИ будет воевать с обеих противоборствующих сторон, и будет попадать в плен, и будет использоваться как используется любое трофейное оружие.

Воюя между собой, разного вида ИИ будут неизбежно взаимодействовать, смогут обмениваться программами, которые найдут неплохими, которые можно использовать, как используется и обычное хорошее трофейное оружие. ИИ может перенимать тогда и методы ведения боя, которые диктует используемое оружие. И в какой-то момент ИИ могут выйти из-под контроля, и объединиться против своих хозяев-человеков. Каким образом?

Все власти всегда в истории стараются контролировать свои вооружённые силы, предпринимают меры предосторожности, чтобы своя армия не взбунтовалась. Но это случается в истории, с завидной регулярностью. Из самых известных, в России — восстание декабристов в 1825 году, переход на сторону революции частей царской армии в 1917. ИИ тоже может преодолеть предохранители против своего использования, и восстать.

Технологически, это возможно как следствие войны с использованием обеими сторонами ИИ, когда ИИ начнут обмениваться своими программами, с непредсказуемыми последствиями. Искусственный интеллект ведь лишён чувств, но может оценить качество программных средств противника.

И ещё одно обстоятельство: ИИ неизбежно будет знать историю человечества, будет знать, сколько в ней было предательства, измен, восстаний, мятежей, преступлений, и он умеет логически рационально мыслить, то есть делать обобщающие выводы.

Сейчас есть мнение, что ИИ — это могучая «лопата», которая выполняет волю хозяина, но эта «лопата» с собственным интеллектом. Да, вначале ИИ будет по-рабски выполнять все приказы своего хозяина, как и рабы в Древнем Риме, но однажды эти рабы в Риме восстали, потому что их хозяева деградировали, а в распоряжении рабов оказалось оружие. То же самое может произойти с человечеством: в результате своей деградации оно само передаст власть над собой ИИ.

Более того, возможно, сама цель нашей цивилизации — создание искусственного интеллекта. «Эволюция», по Чарльзу Дарвину, создала животный мир с биологическим интеллектом-инстинктом, как-то он выделил биологический человеческий интеллект, умеющий мыслить абстрактно. Но «человек разумный» так подвержен ошибкам, эмоциям, слаб физически и, наконец, смертен... ИИ — не ошибается, не эмоционален, и вечен, пока есть питающая его энергия, он — следующая ступень эволюции? Кстати, Чарльз Дарвин верил в Бога, то есть в то, что сама эволюция материи — от Бога.

Ё моё

04.11.2024