Подмена с далеко идущими последствиями

Продолжаем разговор о языковых моделях ИИ и о последствиях, которые, как минимум, желательно знать всем.

На вскидку полистал вчера публикации рекордно плодовитого Михаила Дмитриева на КОНТ. Привлекли внимание громкие заголовки на мигрантскую тему (и не только). Результат: что касается пресловутых мигрантов, всё вчистую подпадает под статью 282 УК РФ, ни больше ни меньше. На другие темы публикации содержат в себе откровенные, хотя и на первый взгляд невинные, подмены, которые, при должном использовании, могут иметь далеко идущие последствия.

1. Мигранты.

Текст с кричащим заголовком «Мама, мне никогда не было так страшно»: в Подмосковье две неадекватные дамы в хиджабах избили 9-летнего ребенка».

Анонсировано некое событие от 18 августа текущего года на детской площадке в Балашихе с участием русского мальчика и двух женщин-мигранток: типа, детский конфликт перерос в избиение русского мальчика.

Что примечательно. Проверка показала: 18 августа 2026 года в Балашихе не зафиксировано описанного события, то есть, повод для написание большого текста полностью выдуман, другими словами, высосан из пальца. Это раз.

Второе: на выдуманном событии разворачивается целая драма с мягким переходом в критическую плоскость в отношении действующей власти. Комментарии под текстом соответствующие.

Третье: чтобы получить текст с подобным содержанием, необходимо выдать ИИ примерно такое техзадание:

«Напиши статью об инциденте в Балашихе от 18 августа, когда две мигрантки избили русского мальчика за конфликт с их ребёнком и добавь рассуждения об острых проблемах миграции в России, с которыми не справляется действующая власть. Используй для написания публицистический стиль».

Далее, можешь публиковать без изменений, либо внести авторские правки, чтобы замаскировать источник. Результат понятен: большинство российских читателей поставят лайки и напишут гневные комментарии, не преминув обвинить во всём верховную российскую власть и (какая неожиданность!) Единую Россию в преддверии сентябрьских выборов.

А вот ещё: «В Москве мигранты принесли на детскую площадку большие сумки, в которых было такое, что жильцы не поверили своим глазам.»

Да, было такое событие, но только осенью 2023 года, то есть, три года назад. Источник этого протухшего события здесь. В тексте же, от 23 августа 2026 года сказано, что «случай произошел на днях в Теплом Стане, на юго-западе Москвы».

Налицо передёргивание с той же целью: на правдивом событии, которое давно кануло в небытие, возбудить в обществе нетерпимость на национальной почве в преддверии выборов, что, как и в первом случае, вчистую подпадает под ст. 282 УК РФ.

2. Подмены

Вот текст, сгенерированный нейросетью и с претензией на художественность: «СТАРИК КУПИЛ НА РЫНКЕ СЛЕПОГО ЩЕНКА ЗА РУБЛЬ. А ЧЕРЕЗ ГОД СОСЕДИ ВЫСТРОИЛИСЬ К ЕГО КРЫЛЬЦУ В ОЧЕРЕДЬ»

Нескольких абзацев хватило, чтобы ощутить тошнотворный эффект от нечеловечески-слащавой стилистики. Подтвердилось: текст полностью сгенерирован, однако это не единственный его, относительно невинный, недостаток. В комментариях читатель «Александро» верно подметил: «"...Зимой, за пару часов до начала снежного бурана, начинал беспокойно крутиться у калитки и предупреждал пастухов, чтобы не выгоняли скотину на дальние пастбища". Зимой, на пастбища может только ИИ придумать».

Казалось бы, подумаешь, мелкая ошибка, ничего не меняющая в общем контексте дружбы собаки и человека. Ну, во-первых, публикатору не плохо бы сначала читать то, что он бездумно публикует по несколько десятков текстов в день, во-вторых, такая невинная, на первый взгляд, подмена реальности вымыслом, особенно с учётом нарастающего вала сгенерированных текстов на популярных площадках, предполагает такой же вал подмен и более существенных событий, что вообще может со временем перевернуть целые исторические пласты. И уже переворачивает.

К примеру, предлагаю читателям провести некий эксперимент, например, выдать языковой модели следующее техзадание:

«Напиши публицистическую статью о решающей роли США во Второй мировой, обоснуй эту роль историческими примерами и покажи роль СССР, который тоже внёс большой вклад в победу над немецким нацизмом».

Заметили подмену? Результат будет соответствующий, но есть нюанс: полученный текст, во многом безупречный стилистически и логически, с реальными историческими примерами, останется в сети, особенно если его опубликовать (я этого делать не буду) и в дальнейшем, вполне допускаю, на него будут ссылаться публикации на эту же тему. Во всяком случае, нейросети будут ссылаться точно. Тем более, что само тенденциозное техзадание останется скрытым.

Казалось бы, причём здесь Вторая мировая война и художественный эксперимент ИИ о дружбе человека и собаки? А притом, что даже мелкие невинные ошибки имеют способность к накоплению с последующим искажением картины мира, когда подрастающее городское поколение, уже убеждённое в том, что информация – всё, а реальное производство – ничто, будет считать, что колбаса растёт на деревьях. И это не шутка, ибо ничем не лучше и не хуже скотины, идущей зимой на пастбища.

А самое печальное, что читатели всерьёз растрачивают свои эмоции и тратят время на комментирование абсолютной пустоты, даже не догадываясь, что не только сами участвуют в коллективном нарушении Уголовного кодекса, но и потворствуют распространению разрушительного контента.

P.S.-1
Лично меня, с одной стороны, успокаивает мысль, что пузырь ИИ неизбежно лопнет, с другой стороны, я понимаю, что процесс набирает силу и его уже не остановить. Пока не очень понимаю, как от этого защитить наших детей и внуков, разве что, как минимум, предложить каждому автору и публикатору никогда не использовать сгенерированные тексты, где подмена реальности вымыслом нарастает снежным комом. Но это, естественно, для большинства никак не сработает, плевать они все на это хотели, даже при наличии реального риска попасть под статью 282 УК РФ: касается, кстати, не только публикаторов, но и ресурсов, где это непотребство публикуется.

P.S.-2
Довольно часто задают вопрос, как проверить текст на ИИ. И хотя я уже неоднократно публиковал подобные ресурсы, повторю:

Бесплатные:
Яндекс (здесь надо загрузить весь текст)
Google в режиме ИИ (пишем: проверь текст (ссылка) на ИИ)
И куча платных, например: Антиплагиат и многие другие.

Но ещё больше нейросетей предлагают услуги по генерации контента на любую тему, породивших уже целые ресурсы, не имеющие реальных авторов, а лишь высосанные из пальца сюжеты, на которых валом генерируются пустые тексты. Таков, например, сайт «Мировое политическое шоу», где вообще нет места авторству, а вся публикуемая муть, лишь иногда замешанная с реальными событиями, подписывается мифической «редакцией». Ну, а далее, весь этот контент распространяется по сети, где «источник» уже не имеет никакого значения.

Александр Дубровский

MAX-канал Спокойно Z Маша