ИИ превратит науку в закрытый клуб

Недавно мне попалась Лейденская декларация ведущих мировых математиков: https://leidendeclaration.ai/

Они всерьез обсуждают угрозу математике как профессии. И дело уже не только в том, что ИИ умеет доказывать теоремы. Он способен производить тысячи вполне правдоподобных математических текстов, а журналы и архивы начинает заваливать поток работ от людей, которые раньше просто не смогли бы их написать. Рецензенты физически не справляются.

Но еще интереснее другая опасность. ИИ читает литературу, ищет нужные статьи, подбирает леммы, формализует аргументы, проверяет доказательства - то есть делает именно то, на чем математик десятилетиями учился быть математиком.

Если все это отдать машине, скоро может оказаться, что людей, способных проделать ту же работу головой, становится все меньше. Как с письмом от руки: постоянно стуча по клавиатуре, мы постепенно теряем сам навык.

Тогда математик в привычном смысле действительно начинает исчезать. Возможно, останутся математики-философы, которые будут решать, какие задачи интересны, что означает доказательство и почему результат важен и имеет смысл. А техническую часть все лучше будет делать машина.

В близких мне областях я вижу похожий процесс. Некоторые теоретические разделы arXiv завалены бредовыми текстами, которые очень похожи на машинно сгенерированные. Иногда натыкаешься на очередную работу, гуглишь автора и выясняешь, что это, скажем, студент онлайн-бакалавриата, никак не связанный с данной областью. Я как-то писал уже об этом.

И вдруг возвращается вопрос, который наука вроде бы давно хотела отменить: «А ты вообще кто такой?»

Это почти противоположность старому «гамбургскому счету». В идеале, как в школе Ландау, неважно, какой у тебя диплом, должность и есть ли они вообще. Решил задачи - значит, понимаешь физику.

ИИ толкает систему в обратную сторону.

На днях я после долгого перерыва загружал препринт в Питтсбургский философский архив и обнаружил, что правила изменились. С июня работу принимают на рецензию, только если автор уже публиковался там раньше, имеет профильную академическую аффилиацию или за него поручится известный автор. Причина та же - поток ИИ-контента.

У меня, к счастью, было и первое, и второе. Но человеку со стороны теперь практически говорят: сначала докажи, что ты не очередной производитель ИИ-мусора.

И мне начинает казаться, что это может быть одним из неожиданных социальных эффектов ИИ. Наука будет превращаться в "лиги", "клубы" и "круги доверия". Не из снобизма, а потому что производство правдоподобного текста стало почти бесплатным, а проверка его человеком остается дорогой.

Это напоминает Лема и «Дознание пилота Пиркса»: среди экипажа есть люди и неотличимые от них гуманоиды, и экипажу для выживания приходится выяснять, кто есть кто.

Похоже, похожая задача возникает теперь в науке.

Только вместо космического корабля - журнал, arXiv или академический архив. А ученые постепенно будут создавать круги тех, про кого точно знают: этот человек действительно понимает, что пишет, "свой".

Парадокс получается занятный: пропоненты ИИ обещали демократизировать знания, а может в итоге вернуть академические цеха, поручительство и принцип «сначала скажи, кто тебя знает».

Как вы считаете, уже начинается такое разделение или опасность пока сильно преувеличена?