Свежие заметки о ИИ

Как и обещал, продолжаю отслеживать некоторые новости о ИИ.

       Уже сейчас  помечать контент как «созданный ИИ» скоро станет бесполезно. Это будет похоже на предупреждения на пачках сигарет:  все их видят, но никто не обращает внимания. 


       Поскольку нейросети стремятся к совершенству, люди начали доверять «грязному» контенту.  Смазанные кадры, плохой свет, случайные снимки обуви или неудачные ракурсы — теперь это сигнал того, что фото сделал живой человек, а не машина. Несовершенство стало защитным механизмом: «это реально, потому что это некрасиво».  Это все до поры до времени. ИИ обучается быстро....

        Раньше мы верили тому, что видим.  В мире ИИ верить картинке нельзя. Поэтому доверие переносится с контента на того, кто его опубликовал.  Мы будем проверять не «что сказано», а «кто это сказал».  Многие платформы в сети  планирует внедрять системы проверки личности и контекста аккаунта, чтобы вы знали, стоит ли за этим профилем реальный человек.

      Чтобы повысить  доверие,  производители фототехники начнут встраивать в файлы скрытые цифровые подписи прямо в момент нажатия кнопки.  Это создаст своего рода «цепочку доказательств»,   подтверждающую, что изображение было захвачено линзой камеры, а не создано видеокартой компьютера.  Со временем ИИ научится имитировать даже «неидеальный» человеческий стиль так хорошо, что никакие автоматические метки не помогут.
 


     Но есть и тревожные новости.   Количество несчастных оболваненных людей, которые верят,  что ИИ сделает им «любое исследование за две минуты»  и верят выдаче от ИИ, растет.  И эти несчастные  добрались даже до библиотек! Растет нагрузка на библиотекарей и те просто в шоке.

        Языковые модели умеют убедительно иммитировать  академический стиль, названия журналов, структуру ссылок и библиографию. В результате они нередко «изобретают» научные журналы, статьи и архивы, КОТОРЫХ НИКОГДА НЕ СУЩЕСТВОВАЛО , но которые выглядят абсолютно достоверно для неспециалиста.

           Это напрямую бьет по работе исследователей и библиотекарей. Пользователи приходят с запросами на конкретные «источники»,  ссылаясь на ИИ, и просят найти номер журнала, статью или книгу.   Библиотекарь тратит время на проверку каталогов, баз данных, межбиблиотечные запросы — и в итоге выясняется, что искомый объект вымышлен целиком.   Масштаб проблемы растет: таких обращений становится все больше, и они отнимают ресурсы у реальной научной и справочной работы.

         Дополнительное напряжение возникает из-за подрыва доверия к институтам знания. Некоторые особенно одаренные пользователи начинают подозревать библиотекарей в сокрытии информации, существовании «секретных фондов» или элитарного доступа, если источник не находится.   Возникает абсурдная ситуация: авторитет профессиональной системы проверки и хранения знаний ставится под сомнение на основании вывода вероятностной модели,  которая по своей природе

 НЕ ГОВОРИТ ПРАВДУ И НЕ ПРЕДОСТАВЛЯЕТ РЕАЛЬНУЮ ИНФОРМАЦИЮ, А ТОЛЬКО ГЕНЕРИРУЕТ ПРАВДОПОДОБНЫЙ ТЕКСТ. 

      Мы наблюдаем интересный симптом:  разрыв между производством текста и производством знания.   ИИ радикально снизил стоимость генерации связных, «умно звучащих» утверждений, но не снизил стоимость  проверки достоверности их.    Эта проверка  по-прежнему требует человеческого труда и разветвленной  инфраструктуры.     Когда поток вымысла превышает пропускную способность этих институтов, система начинает давать сбои.

        Отсюда и раздражение библиотекарей: их работа строится на проверяемости, воспроизводимости и каталогизации реально существующих объектов, тогда как ИИ уверенно предлагает нечто, что никогда не проходило через эти фильтры.

          Если человек спорит с библиотекарем, потому что «так сказал ИИ», он фактически путает генерацию текста с процессом познания.  Это не просто ошибка пользователя,  а фундаментальное непонимание того, как формируются знания, факты и научные источники в реальном мире.

       Но кого это останавливало?    На этом попадаются не просто пользователи, апологеты ИИ, заинтересованные лица и наивные люди, но и политики, юристы и так далее, кто использует ИИ «для аналитики».

       Хочется предупредить ярых сторонников ИИ:  делайте поправку на фантазии ИИ и не вздумайте лечиться по диагнозу, который вам ИИ выдаст по введенным симптомам.  Такие  грустные случаи уже есть. 
Всего вам хорошего.
 Держите голову в холоде, а ноги в тепле..
 Всех благ Вам в Новом 2026 году.