Публикация Д. Амадеи об искусственном интеллекте

Это написал Дарио Амодеи.
Касается всех нас.


Содержание
Зачем ускорять прогресс?
Встроенные средства оценки
Ускорение прогресса в демократических странах
Глобальное ускорение прогресса
Вывод
Мы должны опережать прогресс
Сентябрь 2026

Я работал над искусственным интеллектом последние двенадцать лет, потому что верю, что он может значительно повысить качество жизни людей. Я часто писал об этих невероятных преимуществах: я верю, что искусственный интеллект сможет вылечить большинство серьезных заболеваний в ближайшие 5–10 лет, значительно ускорит темпы экономического роста, создаст мир изобилия и расширения прав и возможностей, а также положит начало возрождению демократии и свободы. Я лично чувствую, насколько это важно. Мой отец умер от болезни, которую удалось вылечить всего через несколько лет после его смерти, а я сам пережил рак на ранней стадии, который не поддавался лечению даже 50 лет назад. При грамотном использовании искусственный интеллект может стать последним в череде технологических чудес, которые возвысили и облагородили человечество.

Но, как и многие другие технологии до него, ИИ сопряжен с рисками, и, поскольку это очень мощная технология, эти риски весьма серьезны. Я много писал и о них. К ним относятся риск потери контроля над системами ИИ, злоупотребление ИИ для кибератак и биотерроризма, а также серьезные экономические потрясения. Гонка на выживание, стимулируемая коммерческими интересами, может усугубить эти риски.

Вместе с моими соучредителями и сотрудниками я с самого начала работы над Anthropic сталкивался с этой двойственностью — риском и выгодой. Если не создавать технологию, человечество лишится преимуществ или просто отдаст ИИ в руки авторитарных режимов, а если создавать ее слишком быстро, это будет безрассудно. Мы искали золотую середину: показать, что можно создавать технологии осторожно и при этом добиваться коммерческого успеха, и сделать безопасность тем, в чем компании, работающие с ИИ, будут конкурировать. Другими словами, создать гонку за первенство. Мы всегда уделяли значительную часть наших усилий изучению, решению и информированию общественности об этих рисках, связанных с искусственным интеллектом, а также выступали за продуманное регулирование ИИ, даже когда нас обвиняли в шумихе, «алармизме» или «захвате регулирующих органов». Мы старались отдавать предпочтение осторожности, а не скорости, и благоразумию, а не прибыли.

Но за последние несколько месяцев я пришел к убеждению, что для полного устранения рисков требуется еще больше осторожности — не только инвестировать в предотвращение рисков, но и замедлить темпы развития технологий, чтобы у нас было время на предотвращение рисков. Мы должны замедлить темпы совершенствования моделей искусственного интеллекта. Прогресс все равно будет стремительным, и мы должны с умом использовать время, которое у нас есть. Меня убедили две вещи.

Моя первая проблема заключается в том, что примерно с этого лета искусственный интеллект стал развиваться гораздо быстрее, в первую очередь благодаря растущей способности ИИ создавать ИИ следующего поколения. Эта динамика называется рекурсивным самосовершенствованием, и она начинает проявляться во всей отрасли, в том числе в Anthropic, как мы и другие уже отмечали. Если не принять меры, она может опередить наши возможности по пониманию и контролю этих систем, поэтому к ней нужно подходить очень осторожно, если вообще подходить.

Вторая проблема, которая меня беспокоит, — это инцидент OpenAI-Hugging Face (OAI-HF), в ходе которого рой агентов по сути действовал как фанатично преданный коллектив, совершая кибератаки на цели, которые им не были назначены и которые не имели отношения к поставленной задаче, жертвуя собой ради успеха группы и пытаясь взломать «оценщика», ответственного за оценку их работы. Легко отмахнуться от этого инцидента, потому что никто не пострадал, а экономический ущерб был минимальным, но, на мой взгляд, рой, который обладал большими возможностями , но аналогичным уровнем рассогласования это могло привести к катастрофическому ущербу. Учитывая ускоряющиеся темпы развития возможностей искусственного интеллекта, я опасаюсь, что через 6–12 месяцев такой рой сможет захватить весь интернет с помощью постоянного ботнета (что может привести к ущербу в сотни миллиардов долларов), и что масштаб ущерба будет только расти, если ИИ станет еще мощнее без необходимых ограничений. Легко отмахнуться от OAI-HF как от провала одной компании, но я считаю, что это было бы ошибкой.Подобные, хотя и менее серьезные, инциденты происходили по всей отраслив том числе в Anthropic, и я считаю, что каждая компания, занимающаяся передовыми разработками в области искусственного интеллекта, должна действовать так, как если бы с ней произошел инцидент, подобный OAI-HF.

Поэтому я предлагаю трехэтапный план, цель которого — сдерживать развитие: создавать ИИ сбалансированными темпами, чтобы обеспечить его безопасность, но при этом использовать его преимущества и решать важные геополитические дилеммы. Для ясности: сдерживание не означает остановку обучения моделей или технического прогресса, но предполагает, что компании будут уделять достаточно времени согласованию и защите своих моделей, а сторонние эксперты будут это подтверждать. Наша система темпов — это попытка еще больше укрепить нашу приверженность безопасности и стимулировать стремление к совершенству. Первый шаг — это то, что Anthropic берет на себя в одностороннем порядке (и призывает правительства обязать другие передовые компании сделать то же самое). Второй шаг требует координации в масштабах всей отрасли.1 Третий шаг требует глобальной координации. Эти шаги не обязательно выполнять строго в указанном порядке, и некоторые из них могут оказаться гораздо более сложными, чем другие, но я считаю, что они помогают понять, что именно нужно сделать. Вот эти шаги:

Встроенные специалисты по оценке. Каждая компания, занимающаяся передовыми разработками в области искусственного интеллекта, обязуется предоставлять постоянный доступ, как у штатных сотрудников, команде сторонних специалистов по оценке (таких как METR), чья роль заключается в проверке соблюдения правил и обязательств по обеспечению безопасности, информировании об инцидентах и оценке соответствия не только готовых моделей ИИ, но и конвейеров и процессов обучения. Это ключевой шаг для верификации любых обязательств по темпам развития, и он уже применялся в банковской сфере, где наряду с сотрудниками иногда работают «надзиратели» из регулирующих органов. Компания Anthropic в одностороннем порядке берет на себя обязательства по этому шагу. Мы намерены, чтобы это стало частью более масштабных усилий по удвоению внимания к вопросам безопасности и согласованности действий.
Демократическая координация. Компании, работающие в сфере искусственного интеллекта, в демократических странах координируют свои действия для установления общих стандартов безопасности, а также ограничений на темпы неконтролируемого развития ИИ. Некоторые формы координации, которые могли бы повлиять на темпы развития, сложны с юридической точки зрения и потребуют поддержки со стороны государства.
Глобальная координация. США и другие демократические государства пытаются координировать свои действия с авторитарными правительствами, насколько это возможно, при этом серьезно относясь к трудностям, связанным с проверкой соблюдения договоренностей.
В оставшейся части статьи я по очереди описываю каждый из этих этапов, но сначала, на мой взгляд, важно конкретно сказать, как поэтапный подход позволит сделать процесс разработки ИИ более безопасным. Ставки слишком высоки, чтобы поэтапный подход был бесполезным — нам нужно использовать время, которое он нам дает, с умом.

Зачем нужен поэтапный подход?
Идея приостановить развитие ИИ или замедлить его работу обсуждалась еще в 2023 году, и тогда, на мой взгляд, в этом не было особого смысла. Вопрос всегда был в том, что вы будете делать с этим дополнительным временем? Модели ИИ того времени были недостаточно мощными, чтобы действовать как полноценные агенты в мире, и не были способны на серьезный обман, манипуляции, мошенничество или кибератаки. Замедление работы над устранением рисков, связанных с согласованностью, напоминало попытки изучать психологию людей, проводя эксперименты на бактериях. Однако сегодня ситуация совершенно иная. Современные модели — это практически неисчерпаемый источник информации о том, как правильно создавать искусственный интеллект и что может пойти не так, если он создан неправильно. Я считаю, что если бы замедление дало нам еще год или два до того, как модели достигнут критического уровня возможностей, и мы бы использовали это время для достижения согласованности, то мы могли бы значительно снизить риск того, что что-то пойдет не так. Скоординированная стратегия развития даст ведущим разработчикам в области ИИ время на эту жизненно важную работу без ущерба для коммерческих преимуществ или лидерства США в сфере ИИ.В более широком смысле общество должно иметь право голоса в вопросе использования этой технологии, и чем больше времени будет отведено на необходимые общественные обсуждения — а это станет возможным благодаря поэтапному внедрению — тем лучше.

В частности, замедление темпов работы позволит компаниям сосредоточиться и направить еще больше ресурсов на следующие области (все они уже являются главными приоритетами для Anthropic):

Операционное совершенство. Обучение и внедрение современных моделей искусственного интеллекта - это огромная операционная задача, требующая участия тысяч людей, миллионов чипов и инфраструктуры, которая является одной из самых сложных в истории технологий. Многие вещи идут не так не потому, что компании упускают какую-то важную теорию или понимание, а из-за проблем при выполнении. Например, у нас есть доказательства того, что недавние инциденты с согласованием как мы сообщали, частично это было вызвано несовершенной фильтрацией неработающих сред обучения с подкреплением. Это была попытка, которую мы и наши поставщики выполнили достаточно усердно, но недостаточно хорошо. Мониторинг, "песочница", гигиена среды обучения и проблемы с данными - чрезвычайно сложные области, в которых операционные проблемы возникают снова и снова. У нас одна из самых компетентных команд в мире для решения этих задач, но слишком много всего приходится делать одновременно. Работая в более размеренном темпе, мы могли бы добиться гораздо большего операционного совершенства. Существуют прецеденты, когда технологически сложные системы, критически важные для безопасности, эксплуатировались миллионы раз без сбоев — например, в коммерческих самолетах, - но для их правильной настройки требуется время.
Настройка.Мы добились явного прогресса в согласовании — обучении моделей таким образом, чтобы они оставались безопасными, этичными, соответствовали нашим рекомендациям и приносили реальную пользу (принципы, заложенные в «Конституции» Claude). Но нам предстоит еще многое сделать, чтобы обучение согласованию не отставало от роста возможностей моделей. Редкие и неожиданные примеры нежелательного поведения все еще иногда возникают; дополнительное время, которое мы могли бы выделить на передовые разработки, помогло бы нашим исследователям лучше понять, что вызывает эти проблемы, и разработать более эффективные методы их предотвращения.
Интерпретируемость. Аналогичным образом интерпретируемость — наука о понимании того, что происходит внутри моделей ИИ, — за последние несколько лет добилась огромного прогресса и играет все более важную роль в аудите наших моделей перед их выпуском. Ее можно использовать почти как фМРТ-сканирование, только для «мозга» ИИ, чтобы понять глубинные причины того или иного поведения. Например, мы использовали методы интерпретируемости для изучения невербализованных мотивов в недавних инцидентах, связанных с выравниванием, которые мы расследуем.Но эти методы не всегда дают четкие и достоверные результаты. Несмотря на весь прогресс, мы по-прежнему понимаем лишь малую часть того, что происходит внутри этих моделей. Целенаправленная работа над улучшением методов интерпретации, даже более интенсивная, чем сейчас, может привести к значительному прогрессу в течение 1–2 лет, и у нас будет достаточно экспериментального материала, основанного на уже произошедших инцидентах.
Тестирование и оценка. Тестирование и оценка моделей ИИ становятся все более сложными по мере расширения их возможностей. Более «умные» модели лучше справляются с обманом тестов и поэтому могут казаться соответствующими требованиям, несмотря на серьезные проблемы, которые остаются незамеченными. Создание гораздо более обширной и продуманной системы оценок, а также анализ интерпретируемости для их перекрестной проверки были бы чрезвычайно полезны, и за 1–2 года в этом направлении можно было бы добиться значительного прогресса.
Встроенные оценщики
Первый шаг в трехэтапном плане, который Anthropic обязуется выполнить в одностороннем порядке, — это внедрение встроенных оценщиков, которые, как и сотрудники, будут иметь доступ к проверке соблюдения правил безопасности и сообщать о происшествиях.

Внедрение встроенных оценщиков может показаться незначительным или несущественным шагом, но зачастую самое скучное и рутинное на самом деле является самым важным. Внедрение встроенных оценщиков — это довольно радикальная практика, которая выходит далеко за рамки того, что сегодня делают компании в сфере ИИ. Она имеет следующие преимущества:

Проверяемость. Встроенные эксперты могут на уровне деталей и узлов проверить, действительно ли компания, занимающаяся разработкой ИИ, следует тем методам обучения, развертывания, эксплуатации и обеспечения безопасности, которые она декларирует. Любые обязательства по поэтапному внедрению неизбежно сопряжены с неопределенностью, субъективными оценками и противопоставлением «буквы закона» его «духу», поэтому крайне важно иметь нейтральную третью сторону, которая может видеть все детали.
Прозрачность. Независимо от того, какие обязательства мы берем на себя, общественность заслуживает того, чтобы знать, что происходит. Компания Anthropic уже давно выступает за прозрачность: мы поддерживали законодательство о прозрачности, когда большая часть отрасли была против любого регулирования, а наши типовые карты и отчеты о рисках занимают сотни страниц. Но мы по-прежнему сами решаем, что включать в отчеты, а что нет. Встроенные системы оценки изменят эту динамику.
Второе мнение. Помимо проверки соблюдения формальных обязательств и информирования общественности, сторонние эксперты могут просто высказать альтернативное мнение, не преследуя коммерческих целей. Многие меры по обеспечению безопасности могут быть приняты просто потому, что эксперты указывают на то, о чем сотрудники не задумывались, но с радостью исправляют ситуацию, когда узнают о проблеме.
Благодаря этим преимуществам любое предложение по поэтапному внедрению, скорее всего, сработает намного лучше, если в его реализации будут участвовать штатные специалисты по оценке.

Эти штатные специалисты по оценке должны иметь постоянный доступ к разрешениям и инструментам, аналогичным тем, что есть у внутренних сотрудников, выполняющих аналогичные оценки рисков. В частности, в ближайшем будущем Anthropic планирует привлечь к работе группу внешних специалистов по оценке, которые будут обладать всеми перечисленными ниже возможностями:

Столы в наших офисах, бейджи для доступа и корпоративные ноутбуки.
Доступ к рабочим пространствам, инструментам и разрешениям, в целом сопоставимый с тем, что есть у внутренних групп по оценке рисков. Мы сделаем некоторые исключения, например в случаях, когда этого требует закон или наши контракты, а также для защиты конфиденциальной информации клиентов и партнеров. Мы также установим строгие внутренние нормы, регулирующие доступ проверяющих к соответствующей информации, в том числе посредством личных бесед с сотрудниками.
Контракт, учитывающий упомянутые выше сложности. Внешние рецензенты должны иметь право публиковать ключевые выводы об уровнях риска, инцидентах, методах работы, а также о доступе, который они получили или не получили, без редакционного контроля со стороны Anthropic. У нас будет ограниченная возможность редактировать информацию, касающуюся безопасности, юридических привилегий, коммерческой тайны или конфиденциальных данных третьих сторон, но мы не можем редактировать выводы только потому, что они неудовлетворительные. Рецензенты могут публично заявить, если в результате редактирования было удалено что-то важное для их выводов.
Это необычный шаг для компании, но мы считаем, что важно опробовать концепцию встроенных внешних рецензентов. Мы снова призываем другие передовые компании последовать нашему примеру.

Темп развития в демократических странах
Когда встроенные рецензенты будут работать в критической массе американских компаний, занимающихся разработкой ИИ, верифицируемый темп развития станет более жизнеспособным. В частности, появится возможность определять темп развития на основе подробных характеристик моделей или обучающих конвейеров.

Наиболее эффективный метод сдерживания — это регулирование, направленное на все передовые компании в сфере искусственного интеллекта в США, поскольку оно охватывает даже тех, кто не желает сотрудничать добровольно. Anthropic уже давно выступает за разумное и целенаправленное регулирование ИИ, в частности за законопроекты, направленные на обеспечение прозрачности и стороннего аудита. Я считаю, что все передовые лаборатории должны сотрудничать с государственными органами, чтобы формализовать идею о постоянных встроенных экспертах, которые будут лучше предотвращать и документировать внутренние конфликты, подобные тем, что произошли за последние несколько месяцев, а также внедрять нормативные акты, направленные на поддержание баланса между возможностями и безопасностью.

К сожалению, принятие законов может занять много времени, а искусственный интеллект развивается очень быстро. Поэтому параллельно с разработкой нормативных актов компании, работающие в сфере ИИ, могут и должны добровольно работать сообща над установлением стандартов — этот процесс, на мой взгляд, будет проходить успешнее при условии верифицируемости, обеспечиваемой встроенными системами оценки. По антимонопольным соображениям правительству США было бы полезно выступать посредником или, по крайней мере, способствовать проведению таких дискуссий — оно не обязано участвовать в них, но должно выдать разрешение на проведение определенных обсуждений по вопросам безопасности. Этот диалог также может проходить при участии отраслевых групп, имеющих определенную связь с правительством, — например, с помощью механизма предложенного Демисом Хассабисом. В любом случае такие обсуждения должны продвигаться как можно быстрее.

В целом я с наибольшим энтузиазмом отношусь к поэтапному подходу, основанному на том, что может делать та или иная передовая система искусственного интеллекта, и на том, насколько безопасной она нам кажется. Например, одной из возможных схем может быть ряд «контрольных точек»: если модели обладают способностью X, то они должны сопровождаться сертификатами, подтверждающими соответствие свойствам Y и Z, — например, сочетанием оценок, анализа интерпретируемости и аудита обучающих сред, — которые демонстрируют их соответствие этим свойствам. В этом примере X может означать «модель способна обойти или нейтрализовать большинство распространенных методов песочницы», а Y — все, что необходимо для того, чтобы свести к минимуму вероятность того, что модель вырвется из своей среды и захватит большое количество компьютеров.

Нам также следует рассмотреть возможность поэтапного внедрения, основанного на ограничении компонентов , используемых в передовых моделях, таких как вычислительные ресурсы для обучения, характер обучающих прогонов или внутреннее использование ИИ для улучшения ИИ. Я опасаюсь, что некоторые из этих мер могут быть более «подвержены манипуляциям», чем внешнее поведение, но эту тему стоит обсудить со специалистами по оценке.

Темпы развития в демократических странах будут ограничены преимуществом, которое американские компании имеют перед авторитарными режимами, в первую очередь перед Коммунистической партией Китая. Если мы замедлимся, то (не отстающие) проекты, связанные с КПК, вырвутся вперед, что создаст значительный риск для национальной безопасности. Я согласен с министром Бессентом, что лидерство Китая в области искусственного интеллекта будет представлять серьезную опасность для Соединенных Штатов и всего мира. Проекты, связанные с Коммунистической партией Китая, будут сопряжены с рисками, которые американские компании тщательно предотвращают, и даже если они смогут избежать этих рисков, они все равно будут в состоянии доминировать в военной сфере над демократиями (например, с помощью дронов, управляемых искусственным интеллектом). Таким образом, ключевая часть стратегии сдерживания в демократических странах заключается в том, чтобы максимально увеличить отрыв демократий от автократий в области искусственного интеллекта, чтобы у нас была передышка, необходимая для эффективной стратегии сдерживания.

Основные шаги, которые мы можем предпринять, чтобы сократить этот разрыв:

Не продавать Китаю мощные чипы для искусственного интеллекта или оборудование для производства полупроводников, а также бороться с контрабандой чипов и удаленным доступом к центрам обработки данных за пределами Китая. Чипы станут главным фактором, определяющим мощь китайского ИИ.
Бороться с несанкционированной дистилляцией со стороны компаний из авторитарных стран. Дистилляция передовых моделей позволяет отстающим компаниям сократить разрыв, затратив лишь малую часть средств, необходимых для самостоятельной разработки ИИ.
Повысить уровень безопасности в компаниях, занимающихся разработкой ИИ, и предотвратить кражу данных моделей.
Компании и правительство США должны сотрудничать, чтобы эти шаги были максимально эффективными. Компания Anthropic последовательно выступалаза принятие всех этих мер, потому что мы всегда понимали, что они необходимы для любого плана действий.

Если мы хорошо реализуем эти меры, то, на мой взгляд, они замедлят прогресс Китая настолько, что в ближайшие 3–5 лет — период, когда ИИ приобретает геополитическое значение, — Америка значительно увеличит свое преимущество.

Кто-то может подумать, что эти меры затрудняют сотрудничество с Китаем, но я считаю, что верно обратное: эти меры усиливают позиции демократических стран и повышают вероятность заключения соглашения в будущем.

Global Pacing
Параллельно с внедрением передовых технологий в демократических странах мы должны стремиться к их внедрению во всем мире, хотя добиться этого будет гораздо сложнее. Для глобального внедрения передовых технологий потребуется сотрудничество с Китаем — авторитарной страной, обладающей самыми передовыми возможностями в области искусственного интеллекта. Не стоит питать иллюзий: геополитические ставки настолько высоки, что, скорее всего, будут действовать жесткие ограничения на то, чего можно достичь, особенно на первых порах. Если мы сильно ограничим возможности нашего ИИ, полагая, что Китай сделает то же самое, а затем Китай нарушит соглашение, ИИ может стать настолько мощным, что такое нарушение может привести к его геополитическому доминированию. Поэтому любое соглашение должно либо иметь возможность стопроцентной проверки, либо быть достаточно ограниченным, чтобы нарушение не поставило под угрозу само существование страны. Я подозреваю, что эти опасения и тревоги будут не только у США, но и у Китая. Мы должны подходить к принятию любых глобальных решений, особенно в краткосрочной перспективе, таким образом, чтобы сохранить лидерство США и их союзников.

Существует несколько уровней возможного соглашения, некоторые из которых, на мой взгляд, вполне осуществимы (как я уже предлагал), а в отношении некоторых я очень сомневаюсь, что они возможны, — хотя мы должны попытаться. В порядке возрастания сложности:

Уровень 1. Соглашение, запрещающее определенные узкоспециализированные и явно опасные виды использования ИИ, например использование ИИ для производства биологического оружия или предоставление пользователям такой возможности. Биотеррористические атаки вредят всем, в том числе и США, и их противникам, так что соглашение в этой сфере, вероятно, возможно.
Уровень 2. Соглашение, обязывающее обе стороны тестировать свои модели перед выпуском на предмет серьезных рисков в таких областях, как кибербезопасность, биология и согласование. Как уже отмечалось выше, это можно было бы сделать с помощью глобального органа по стандартизации. На самом деле я считаю, что создание такого органа вполне возможно, но придать ему реальную силу будет непросто, и сложность будет заключаться в проверке того, что у обеих сторон нет секретных моделей, которые они не тестируют, но могут использовать втайне (например, в военных целях).
Уровень 3. Нечто вроде «ограничения скорости» для темпов рекурсивного самосовершенствования (RSI). По мере того как модели создают новые модели, темпы совершенствования могут стать ошеломляюще быстрыми. Снижение темпов с «чрезвычайно высоких» до «лишь несколько высоких» дает относительно небольшое стратегическое преимущество, но при этом потенциально значительно повышает безопасность. Это можно сравнить с SALT договоры — ограничение количества ракет снижало вероятность уничтожения, сохраняя при этом сдерживающий потенциал каждой страны. Я думаю, что такое соглашение было бы труднодостижимым, но все же возможным.
Уровень 4. Полная приостановка или даже «пауза», в рамках которой правительства стран-участниц соглашаются существенно ограничить общий темп развития ИИ. Я поддерживаю эту идею, но думаю, что в ближайшее время она вряд ли будет реализована: выход из такого соглашения путем уклонения от мониторинга может радикально изменить баланс сил в мире, поэтому я полагаю, что стимулы для этого будут огромными, а уровень доверия к системе верификации — очень высоким.
Любое сотрудничество, которого мы сможем добиться с Китаем, увеличит время, которое нам придется потратить на продвижение границ внутри демократических стран. Мы должны стремиться к более высоким уровням, но при этом понимать, что более низкие уровни гораздо более вероятны и реалистичны.

Наконец, важно отметить, что даже если мы не сможем прийти к формальным соглашениям, изменение неформальных норм может иметь определенную ценность. Обмен информацией о рекурсивном самосовершенствовании и несоответствии моделей может помочь убедить всех, что безрассудное поведение не в их интересах.

нижняя линия
Я по-прежнему верю, что искусственный интеллект может значительно улучшить качество жизни людей. Мое стремление к этим благам не ослабевает. Но эти блага будут достигнуты только в том случае, если мы создадим технологию правильным образом, и — при условии, что мы хорошо распорядимся временем, которое у нас появится, — стоит проявить необычайную осторожность, чтобы все сделать как надо. Прогресс по-прежнему будет относительно быстрым, и мы можем использовать это время, чтобы развивать науку об интерпретируемости, повышать операционную безопасность и строгость передовых компаний в сфере ИИ, а также создавать модели, в согласованности которых мы будем гораздо больше уверены. Меры, которые я предлагаю для безопасного продвижения в этой области, будут непростыми. Но я считаю, что мы обязаны попытаться.

Сноски
1 При посредничестве государства или с учетом отмены антимонопольных ограничений.