Передел рынка научного престижа?

Едва я опубликовал прошлый пост о Навье-Стоксе, как элита математиков, лауреаты филдсовской премии, опубликовали новое открытое письмо об опасностях ИИ для математики: https://mathandai.org, здесь помещен русский вариант: https://t.me/khokhlovAR/1350

На самом деле здесь смешаны несколько разных вопросов, и их полезно разделить.

С первым я в основном согласен. Большая математическая задача исторически была не просто препятствием, которое надо преодолеть ради приза. Вокруг нее возникали школы, семинары, поколения учеников, новые методы, иногда целые смежные области. Хотя математики и большие индивидуалисты, математика живет как сообщество, выращивающее идеи и людей.

Я бы назвал все это математической культурой, хотя сами математики и вообще естественники слова «культура» применительно к своей деятельности часто избегают. А зря, эта история именно о культуре. И гонка AI-доказательств действительно может эту культуру разрушать. Если задача превращается просто в benchmark, кто быстрее заставит машину выдать доказательство. Я об этом писал раньше, и здесь с авторами письма трудно спорить.

Но они особенно акцентируют «понимание». Это мне кажется не самым сильным аргументом. История науки полна случаев, когда результат появлялся задолго до понимания его последствий. Когда открыли деление ядра, было ли уже ясно, к какой физике, технике и политике оно приведет, к ядерному оружию? Политики и военные имеют понимание что они хотят от науки раньше других. Это не остановило никого, хотя все делалось людьми. С математикой, вероятно, будет так же. Если машина найдет важное доказательство, люди рано или поздно его разберут, упростят и встроят в существующее знание. Понимание может запаздывать. Само по себе это еще не катастрофа.

Гораздо интереснее другой аспект - авторство, credit и собственность на идеи. И кому, как не филдсовским лауреатам, об этом беспокоиться. В истории с Навье-Стоксом, которую я разбирал в прошлом посте, не понадобился никакой «злонамеренный искусственный интеллект». Языковая модель, чуть ли не примитивная математически, интеллект очень условно. Гораздо важнее люди, инфраструктура и огромная асимметрия ресурсов. У нескольких IT-компаний есть огромные вычислительные мощности, закрытые модели и доступ к массивам научных текстов и личных чатов.

Отсюда возникает новая проблема privacy. Ученый годами развивает идею, обсуждает ее с коллегами, публикует промежуточные результаты. Затем организация с несопоставимо большей технической мощностью может быстро довести его идею до результата и предъявить публике историю о том, как «наш ИИ решил задачу тысячелетия». Это напоминает то, в чем много лет обвиняли китайскую промышленность: взять чужую идею и быстро воспроизвести ее на более мощной производственной базе. Только теперь речь идет не о смартфоне или станке, а о научной идее.

Мотивация бизнеса здесь не загадочна, ее еще Маркс раскрыл. Решенная знаменитая задача - отличный маркетинговый актив. Можно сказать: наша модель делает настоящую науку, она сильнее конкурентов, она решила то, что люди не могли решить десятилетиями. Научный credit превращается в стоимость компании, продажи и подписки. Поэтому конфликт может быть даже проще, чем его описывают филдсовцы. ИИ-компании вторглись не только в производство математического знания. Они вторглись на рынок научных премий, приоритета, славы и символического капитала. Рынок, который прежде почти монопольно принадлежал самим ученым.

Пока общество награждает человека, университет или компанию за «первое решение знаменитой задачи», неизбежна гонка за этим решением. Возможно, менять надо не ИИ, а систему стимулов: меньше награждать за сам факт приоритета и больше - за то, что действительно увеличивает человеческое знание, образование и качество жизни.

Но захотят ли сами ученые менять такую систему? Ведь премии, приоритет и научное тщеславие придумали вовсе не владельцы AI-компаний. Они просто вторглись в поисках профита на уже существующий рынок - с гораздо большими вычислительными ресурсами и потеснили его лидеров.