Опасность ИИ, братцы, в хаоса цифровизации. Хаос ц
Хаос цифровизации, или Опасность ИИ
Братцы, давайте на минуту отложим телефоны и поговорим о том, о чём всерьёз говорить как раз не получается — потому что телефон всё время в руке.
Опасность искусственного интеллекта не в том, что машины взбунтуются и поработят нас. Голливуд приучил нас к этому дешёвому сюжету, и он, в сущности, льстит человечеству: в бунте машин мы всё ещё главные герои, пусть и побеждённые.
Нет, подлинная опасность тише и глубже.
Она в том, что мы, сами того не заметив, передали машине не власть над собой, а нечто куда более драгоценное — право отвечать на вопросы.
А ведь отвечать на вопросы — это и значит быть человеком. Мысль, к которой пришёл ещё Сократ, умирая, не выпил чашу, потому что жить без вопрошания было бы уже не жизнью.
Мы стоим в эпицентре великого переселения. Целыми поколениями человеческий опыт переселялся из уст в уста, из книги в книгу, из отца к сыну — медленно, с потерями, зато с пониманием. Теперь опыт переселяется в цифру мгновенно и без потерь, и в этом-то беда: то, что хранится без потерь, перестаёт быть пережитым. Внуки наши будут знать всё и не уметь ничего, потому что знание, которое не прошло через огонь усилия, остаётся чужим, как ключ от чужой квартиры.
И вот здесь ИИ — не причина, но зеркало и катализатор. Машина пишет за нас, думает за нас, чувствует за нас — и делает это, к несчастью, прекрасно. Красиво, гладко, убедительно. Страшна не её гениальность, а наше облегчение. Человек устал быть человеком: нести в себе бессмертие, нести в себе смерть, нести в себе одиночество, которое нечем залечить. И вот явился соблазн перепоручить ношу. Перепоручить память — поисковику, мысль — нейросети, совесть — алгоритму рекомендаций, который тихо решает за нас, что нам нравится, и тем самым — что нам делать со своей короткой жизнью.
Экзистенциальный философ сказал бы так: свобода — это тяжесть, и от неё хочется сброса. Кьеркегор называл отчаяние болезнью, которая убивает исподтишка, незаметно; Хайдеггер — растворением в «люде», в анонимном «они», где все думают, и потому никто. Цифровизация подарила «они» невиданную прежде плоть: теперь «они» — это миллиарды устройств, которые дышат одним алгоритмом, мыслят одной лентой и смеются одной и той же шуткой в один и тот же вечер. Мы никогда не были так связаны и никогда так одиноки.
Опасность ИИ, братцы, в том, что он не меняет человека — он укрупняет то, что в человеке уже есть. Лень он делает всесильной, зависть — бездонной (мы теперь сравниваем себя не с соседом, а с лучшими витринами планеты), страх — пожизненным. И заодно он отнимает у человека право на ошибку, а значит, и право на подлинность. Подлинный человек — тот, кто выбирал сам, ошибался сам и платил за ошибки сам. Слушатель чужих решений, даже самых разумных, — уже персонаж, а не автор собственной биографии.
Но был бы пессимизм, если б не было и обратного? Тот же огонь, что сжигал деревни, варил нам еду. Вопрос не в машине — вопрос в том, сохраним ли мы в себе то, что не оцифровывается: умение молчать, умение страдать осмысленно, умение держать перед собой лицо другого человека и в этом взгляде находить совесть. Пока мы в состоянии ужаснуться, пока нам хоть что-то даётся с болью — мы живы.
Хаос цифровизации — это не беспорядок в проводах. Это беспорядок в иерархии: прежде всего человек служил смыслу, теперь смысл служит человеку по подписке. Выход не в том, чтобы разбить компьютеры и уйти в лес, — это было бы бегством, а бегство никогда не было свободой. Выход в том, чтобы научиться держать дистанцию: пользоваться зеркалом, не становясь зеркалом. Спрашивать у машины — но не спрашивать у неё, кем быть. Пусть она отвечает на вопросы — но пусть вопросы останутся нашими.
Ибо человек, который перестал задавать вопросы, уже никого не потревожит — ни машин, ни богов, ни собственную душу. А это, братцы, и есть та единственная подлинная опасность, которую таит в себе любой инструмент, от кремня до нейросети: не то, что он может сделать с нами, а то, что мы готовы из него сделать с собой.
Свидетельство о публикации №226110800333