Все труднее заметить ИИ

В последнее время в кругах, приближенных к издательскому бизнесу, поднялась тревога по поводу проникновения ИИ в рукописи. Это справедливо и актуально, поскольку книжная индустрия уже сталкивается с проблемой отмены контрактов из-за подозрений в использовании автором искусственного интеллекта для написания текстов.
Простого решения для обнаружения ИИ нет и не предвидится по многим причинам. С одной стороны потому, что крупные языковые модели — это копии заимствованной для обучения прозы, написанной реальными авторами. С другой, потому что модели постоянно совершенствуют свои творческие навыки в процессе создания «словесных салатов». Машинное письмо, — это не то, что мы увидим завтра. Оно уже здесь и сейчас. Короче, обычное дело, рутина. Можете не соглашаться, но это лишь один из примеров того, как передовые технологии, которые нам продают как то, что может облегчить нашу писательскую жизнь, в итоге делает ситуацию много сложнее.
Инструменты обнаружения ИИ на столе редактора, в лучшем случае, несовершенны, в худшем мы задаемся вопросом: зачем использовать ИИ для выявления его использования? Нонсенс, однако.
Признаемся, сейчас сложное время для чтения. Сталкиваясь с новым текстом незнакомого автора (да и знакомого тоже, если честно), приходится напрягаться, чтобы понять: с чем мы имеем дело, не прогулялась ли по его страницам рука анонимного мастера цифровых дел? На издательства ложится большая и дополнительная ответственность помимо поиска затаившихся в книжных корешках иноагентов. Книжная индустрия должна сделать абсолютно всё, чтобы читатель не испытывал необходимости листать любую новую книгу с позиции скептика или циника, кому что нравится.
Есть, есть способ избежать ранней стадии паранойи, если уж на то пошло: обязать издательства (в лице редакторов отделов и направлений) взять на себя проблему обнаружения ИИ. Нашел — молодец, возьми с полки пирожок, пропустил –—поздравляем с понижением до младшего редактора. В этом смысле нынешняя необязательная дилемма — напоминание о том, насколько мы бываем наивны, полагаясь на новейшие технологии, видя в них этакую панацею, которая спасет человечество. Но мы же не алхимики в конце концов, чтобы уповать на ловкость рук, как на средство исцеления от всех болезней.
Редакторы, что уж скрывать, уже перегружены донельзя. На самом деле, практически каждый, кто работает в корпоративном издательстве, перегружен. Когда издатели сокращают штат, что сейчас происходит почти повсеместно, оставшиеся сотрудники вынуждены брать на себя всю ту работу, которую их бывшие коллеги больше не могут выполнять. Добавьте к этому нестабильность служебного статуса, этот дамоклов меч, нависший над головой бедняги подобно гильотине (во Франции знали толк в этом инструменте): ведь ценность редактора зависит от цифры продаж курируемых им книг за определенный временной период. Вовсе не идеальная среда для продуктивной работы, не говоря уже о творческих планах и студенческих мечтаниях (редактор — это звучит гордо!).
Как и чем авторское слово отзовется редактору? Особенно в самиздате для книг, приобретаемых крупными издательствами, которые заслуживают тщательного прочтения, прежде чем они выйдут в свет тиражами в тысячи экземпляров.  Редактор, всем известно, — функция в процессе публикации, которая нужна для работы с текстом, его шлифовкой, доведением до такого состояния, за которое можно и зуб отдать, если, конечно, придется. Искать в темной комнате черную кошку ИИ? — увольте, не царское это дело. Чем больше времени редактору приходится редактировать конкретную книгу, тем больше внимания он может ей уделить (именно поэтому большинство из них и занялись книжным бизнесом). Чем больше тщания они вкладывают в свою работу, тем выше вероятность, что смогут справиться с неуклюжим текстом, включая попытку выдать опус ИИ за оригинальное письмо. Дать редакторам больше времени и жизненного пространства для, знаете ли, собственно редактирования — это не окончательное решение проблемы ИИ, но и неплохая опция.
Люди — несомненно, не машины, которые могут работать без отдыха и без удовольствия. На самом деле, мы лучше всего работаем над книгой, когда условия труда позволяют уделять время размышлениям, анализу, интерпретациям прочитанного. Книги — не виджеты на экране смартфона. Им нужна рука опытного человека, редактора, обладающего помимо всего силой воли, чтобы потратить на нее столько времени, сколько нужно, чтобы испытать чувство глубокого удовлетворения.
В Канаде к решению проблемы подошли с другой стороны. Парламентский комитет по канадскому наследию призвал правительство обязать ввести чёткую маркировку для определённого контента, созданного ИИ, чтобы повысить прозрачность и сохранить доверие общественности. Она должна быть легко доступна для широкой публики.
Маркировка будет применяться к письменному, цифровому и видеоконтенту, согласно докладу, представленному комитетом на этой неделе. В нем говорится, что требование должно распространяться на «все релевантные секторы», включая цифровые платформы, вещателей, а также культурные или государственные учреждения, чтобы «способствовать прозрачности, сохранять общественное доверие и сохранять целостность информационной и культурной экосистемы Канады».
Фреймворк также должен различать контент, полностью созданный искусственным интеллектом, и контент, созданный людьми с помощью ИИ, говорится в отчете. Эта практика послужит для защиты ценности человеческого творческого труда и позволит художникам, культурным организациям и учреждениям последовательно и прозрачно раскрывать использование ИИ, а также поддерживать способность общества принимать осознанные решения, как пишут авторы доклада.
Маркировка использования искусственного интеллекта была одной из 13 рекомендаций, опубликованных в отчёте, который был написан после исследования влияния искусственного интеллекта на культурный сектор. В этом исследовании были представлены показания ряда свидетелей из сфер деятельности, затронутых ростом ИИ, включая художников, музыкальную и киноиндустрию, издательское дело и социальные сети.
(литературно-публицистический просветительский журнал "Клаузура")