Религия и ИИ, а между ними Человек. Часть 20

Спектр мнений: взгляд профессионалов

Вячеслав Николаевич не был бы умудрённый жизненным опытом философом, если бы не принял решение ещё раз провести экспертизу этого документа. Тем более, отец Алексий в беседе с ним напомнил старую поговорку "Береженого Бог бережёт". Очень важный документ, очень высокая ответственность.

Спустя несколько дней после утверждения основных тезисов проекта Вячеслав Николаевич предложил провести расширенное заседание клуба «Предел» с участием приглашённых экспертов — представителей разных профессиональных сфер, чьи голоса должны были придать документу необходимую глубину и междисциплинарную выверенность. В небольшой аудитории МФТИ собрались те, кого вскоре назовут «экспертным кругом».

За длинным столом разместились:

Философ — Владислав Николаевич, профессор, известный работами по антропологии технологий;

Физик — Юрий, не раз высказывавшийся о рисках неконтролируемого ИИ;

Айтишник, программист — Андрей, технический руководитель крупной IT-компании;

Священник — отец Алексий, настоятель храма при университете, духовник нескольких научных коллективов;

Филолог — Мария, специалист по теории текста и цифровой грамотности;

Медик — Алексей Николаевич, психиатр, занимающийся вопросами цифровой зависимости;

Историк — Дмитрий Сергеевич, изучающий эволюцию образовательных систем;

Математик — Фёдор Григорьевич, заведующий кафедрой математического моделирования;

Специалист по цифровым коммуникациям — Пётр Михайлович, эксперт по информационной безопасности и цифровому этикету, Сбербанк.


Вячеслав Николаевич открыл заседание:

— Уважаемые коллеги. Перед вами проект локального акта, разработанный нашими молодыми участниками. Документ уже прошёл первичное обсуждение с педагогической общественностью, в него внесены дополнения педагогов-практиков. Сегодня мы хотим услышать вас — представителей разных сфер знания. Нам важно понять, не упущены ли фундаментальные принципы, не нарушены ли границы, которые нельзя переступать.

Он передал слово Анне, которая кратко напомнила структуру документа.

— Теперь готовы ответить на вопросы, — завершила она.

Философ Владислав Николаевич поправил очки и заговорил первым:

— Я внимательно изучил документ. В нём много верных технических и педагогических решений. Но меня беспокоит терминология. Вы пишете: «ИИ — инструмент». Однако инструмент предполагает, что человек полностью контролирует его применение. В случае с современными нейросетями мы имеем дело с системой, чья внутренняя логика непрозрачна. Мы не знаем, почему она выдала именно этот ответ. Это скорее «чужой агент», чем инструмент. И если мы не введём это различие в философскую основу документа, то будем невольно внушать ученикам иллюзию полного контроля. Не лучше ли говорить об ИИ как о «партнёре с неопределённым поведением», требующем особой осторожности?

Михаил переглянулся с Денисом.

— Владислав Николаевич, вы правы, — ответил Михаил. — Мы использовали слово «инструмент» в широком смысле, но ваше уточнение важно. Если мы заменим в преамбуле «инструмент» на «технологического помощника с элементами автономии», это задаст более точную рамку.

Физик Юрий хмыкнул:

— Вся эта возня с рефлексивными листами и ограничениями для старшеклассников кажется мне избыточной. В моём институте студенты давно используют ИИ для расчётов. Если мы не научим детей работать с нейросетями в полную силу в школе, они окажутся неконкурентоспособными в вузе. Я предлагаю для физико-математического профиля сделать отдельный, более либеральный режим. Зачем нам единый акт для всех?

— Мы обсуждали это, — ответил Илья, студент-инженер. — Но даже в физмат-лицее есть гуманитарные предметы. И там нужна защита от подмены мышления. Мы предлагаем сегментацию внутри школы: на точных науках — максимальная интеграция, на гуманитарных — жёсткий фильтр. Это отражено в разделе III. Но если делать отдельный акт только для физмата, мы теряем универсальность подхода.

— А я бы не разделял так резко, — заметила филолог Мария. — В гуманитарных предметах ИИ может быть прекрасным инструментом для анализа больших массивов текстов, для выявления стилистических закономерностей. Главное — чтобы ученик оставался интерпретатором. В вашем документе это прописано недостаточно. Вы запрещаете ИИ как автора, но разрешаете как «генератора идей». А где обучение тому, как именно критически осмысливать сгенерированный текст? Курс «Критическое мышление и ИИ» — это хорошо, но он должен включать и филологический анализ: как отличить живую мысль от статистической комбинации.

Анна кивнула:

— Мария, спасибо. Мы добавим в описание курса конкретные модули: «Как читать текст, созданный нейросетью», «Признаки галлюцинаций», «Стилистические маркеры машинного текста». Это важно.

Священник отец Алексий, до этого молча слушавший, заговорил тихо, но весомо:

— Меня тревожит не столько содержание, сколько атмосфера. В документе есть пункт о праве отказа от ИИ по религиозным причинам. Это хорошо. Но не создаст ли сам факт повсеместного внедрения нейросетей в школе негласного давления на тех, кто отказывается? Ребёнок, который не хочет пользоваться ИИ, может чувствовать себя изгоем. Как школа собирается защищать таких детей не формально, а реально?

Ксения, будущий педагог, ответила:

— Отец Алексий, мы много думали об этом. В проекте прописано, что для таких учеников должна быть альтернативная форма выполнения заданий. Но вы правы: важно не просто создать возможность, а сделать её равноценной и уважаемой. Мы предложим добавить пункт, что учителя обязаны публично признавать ценность традиционных методов и не допускать дискриминации в устной и письменной оценке. Кроме того, в лицейских правилах должно быть закреплено, что отказ от ИИ не влияет на рейтинг ученика.

— И добавить, — продолжил отец Алексий, — что ни одно административное или дисциплинарное решение не может приниматься на основе данных ИИ. Это вы уже прописали, но хорошо бы подчеркнуть особо.

— Сделаем, — сказала Анна.

Медик Алексей Николаевич взял слово:

— Я посмотрю на это с точки зрения здоровья. Экранное время, нагрузка на зрение, на психику. У вас в началке учитель отвечает за дозирование — это правильно. Но в старшей школе вы разрешаете полноценное использование ИИ для проектов. Это может означать, что ученик будет проводить за экраном многие часы. Нужен лимит не только на время, но и на интенсивность использования ИИ в зависимости от возраста. Например, в 10–11 классах — не более двух академических часов в день в рамках обязательной программы, с обязательными перерывами.

— Алексей Николаевич, вы правы, — ответил Денис. — Мы это упустили. Добавим в раздел III подпункт о гигиенических нормативах: использование ИИ на уроке и при выполнении домашних заданий не должно превышать санитарно-эпидемиологических требований к экранному времени. А в старшей школе — с обязательными офлайн-компонентами.

Историк Дмитрий Сергеевич погладил бороду:

— Я хочу обратить внимание на долгосрочные последствия. В истории образования были попытки внедрить «технологии, которые заменят учителя»: от кино в 1920-х до компьютеров в 1980-х. Каждый раз прогнозы не сбывались. Но каждый раз эти попытки меняли роль учителя. Ваш документ — попытка удержать баланс. Однако я не вижу в нём механизма исторической рефлексии: как школа будет оценивать, не пошли ли мы по ложному пути? Вы пишете о ежегодной ревизии, но кто и по каким критериям будет оценивать долгосрочные эффекты?

Михаил задумался:

— Дмитрий Сергеевич, мы предложим создать при администрации лицея независимый наблюдательный совет из представителей разных дисциплин (включая историков образования), который будет раз в два года готовить публичный доклад о влиянии ИИ на образовательные результаты и психологическое благополучие. Критерии: не только академическая успеваемость, но и уровень тревожности, качество социальных связей, способность к самостоятельному мышлению.

— Это уже ближе к научному подходу, — одобрил историк.

Математик Фёдор Григорьевич откашлялся:

— У меня технический вопрос. Вы требуете использования отечественного ПО на российских серверах. Это правильно, но не всякое отечественное ПО одинаково качественно для образовательных задач. Нужно добавить, что лицей публикует ежегодный рейтинг используемых ИИ-систем с оценкой их эффективности, прозрачности и безопасности, чтобы родители и учителя могли осознанно выбирать.

— Логично, — кивнул Андрей, айтишник. — Я бы добавил ещё требование к ИИ-платформам: они должны предоставлять API для аудита. То есть администрация школы должна иметь возможность проверить, какие данные собираются, как они обрабатываются и на каких моделях обучена нейросеть. Без этого нельзя гарантировать безопасность.

— Это сильное дополнение, — согласился Михаил. — Запишем.

Специалист по цифровым коммуникациям Пётр Михайлович сказал:

— Мы всё время говорим о детях и учителях. Но забываем о родителях. Они тоже должны быть обучены. Предлагаю добавить в акт обязательство школы проводить регулярные родительские лектории по цифровой грамотности и безопасности при использовании ИИ. Иначе родители будут либо слепо запрещать, либо бездумно разрешать. Ни то, ни другое не полезно.

— Поддерживаю, — сказала Анна. — Внесём в раздел V пункт о родительском просвещении.

Андрей-программист подытожил техническую часть:

— В целом документ сбалансированный. Но я вижу риск: вы требуете от учителей повышения квалификации раз в два года, но не прописываете, как это будет финансироваться и кто будет разработчиком программ. Если это останется на усмотрение школы, то будет формальность. Надо добавить, что программы повышения квалификации проходят экспертизу на федеральном уровне или хотя бы на уровне университета-партнёра.

— Это уже выходит за рамки локального акта, — заметил Вячеслав Николаевич, — но мы можем записать рекомендацию администрации лицея использовать только сертифицированные программы, согласованные с базовой кафедрой МФТИ.

Обсуждение продолжалось ещё час. К концу встречи на доске появился новый список дополнений и уточнений:

1. Философское уточнение: в преамбуле заменить «инструмент» на «технологического помощника с элементами автономии», подчеркнуть непрозрачность алгоритмов как фактор риска.

2. Филологический компонент: в курс «Критическое мышление и ИИ» включить модули по анализу сгенерированных текстов, выявлению галлюцинаций и стилистических маркеров.

3. Защита права на отказ: добавить пункт о публичном признании ценности традиционных методов и запрете дискриминации учеников, не использующих ИИ.

4. Гигиенические нормативы: включить в раздел III ссылку на санитарные нормы экранного времени, с конкретикой по возрастам.

5. Независимый наблюдательный совет: создать при лицее совет с участием историков, психологов, педагогов для оценки долгосрочных эффектов внедрения ИИ.

6. Прозрачность ПО: требование публичного рейтинга используемых ИИ-систем и наличия API для аудита.

7. Родительский лекторий: обязательство школы проводить просветительские мероприятия для родителей по цифровой грамотности и безопасности.

8. Квалификация учителей: рекомендация использовать программы повышения квалификации, прошедшие экспертизу университета-партнёра.

Вячеслав Николаевич подвёл черту:

— Коллеги, сегодняшняя встреча показала, что междисциплинарный взгляд необходим. Молодёжная группа подготовила прочный каркас, а ваши замечания превращают его в здание, которое способно выдержать и будущие технологические изменения, и социальные вызовы. Финальную версию поручаю подготовить Анне, Михаилу и Денису с учётом всех сегодняшних дополнений. Через две недели проект будет представлен на педагогическом совете и родительском комитете.

Когда эксперты начали расходиться, Анна подошла к отцу Алексию:

— Батюшка, вы сказали о негласном давлении. Мы постараемся это учесть. Как вы думаете, нужно ли добавить что-то ещё?

— Подумайте о том, чтобы ввести традицию — перед началом использования любой новой ИИ-системы проводить не только техническую, но и этическую беседу с учениками. Не как лекцию, а как разговор. Дети должны понимать: технологии — это не судьба, а область их личного выбора. И этот выбор уважается.

— Обязательно запишем, — сказала Анна.

Михаил, стоявший рядом, добавил:

— Знаете, когда мы только начинали, я думал, что главное — написать чёткий технический регламент. Теперь понимаю: самый важный пункт — это сохранение человеческого лица в образовании. Без этого любой регламент превратится в набор запретов, которые всё равно обойдут.

— Именно так, — улыбнулся отец Алексий. — Порядок без души — это только видимость порядка.

Выходя из аудитории, молодые разработчики чувствовали, что их проект обрёл не только юридическую, но и человеческую глубину.

---

Продолжение следует