Политика

Руководители Anthropic и OpenAI призывают к более медленному темпу развития передового ИИ

Призыв Дарио Амодеи замедлить разработку передовых технологий получил поддержку со стороны Сэма Олтмана и других руководителей лабораторий, создавая необычный консенсус в отрасли вокруг внешней оценки и работы по безопасности.

Майкл С. 12 сентября 2026 г.

Предложение о замедлении развития передового ИИ. Дарио АмодеиПризыв к замедлению развития передового ИИ получил поддержку Сэма Олтмана и других руководителей лабораторий, создавая необычный консенсус в отрасли вокруг внешней оценки и работы по безопасности. Это развитие стало известным Сообщение Axios о предложении, размещая конкретное решение, выпуск или раскрытие за дебатами, которые часто обсуждались в более широких терминах.

Предложение не предполагает постоянную остановку. В нём аргументируется, что командам по безопасности и независимым оценщикам нужно время и доступ для понимания систем перед тем, как следующий скачок возможностей будет широко внедрён.

Что изменилось

Поддержка со стороны конкурирующих руководителей имеет политическое значение, потому что лаборатории редко согласуют правила, которые могли бы ограничить графики выпуска. Однако согласие по принципу пока не определяет порог, сроки или механизм принуждения.

Непосредственным следствием является операционное. Компаниям, законодателям и техническим командам теперь необходимо преобразовать объявление в бюджеты, контроль и измеримые результаты. Этот процесс обычно выявляет разрыв между заявлением о продукте и системой, которой можно доверять при реальных нагрузках.

Политическая задача заключается в том, чтобы превратить общий принцип в исполнимую обязанность, не замораживая технологии на уровне сегодняшнего дизайна. The Принципы ИИ ОЭСР предоставляют международную точку отсчета, в то время как the Рамка управления рисками ИИ NIST показывает, как управление может следовать за рисками и возможностями, а не только за маркировкой продукта.

Сложный международный вопрос — это координация. Компания, которая замедляется в одиночку, может опасаться потери талантов, клиентов или стратегического преимущества, в то время как добровольное обязательство отрасли может разрушиться при росте конкурентного давления.

Следующее испытание

Следующие доказательства будут получены из реализации, а не из обещаний. Полезная отчетность должна отслеживать, кто получает доступ, какие меры защиты являются обязательными, как раскрываются ошибки и могут ли клиенты или общественность независимо проверить заявленный результат.

Это различие важно, потому что рынки ИИ быстро переходят от объявления к предположению. Как только возможность считается неизбежной, закупки и политика могут опережать доказательства. Дисциплинированная реакция сохраняет видимость возможности, не воспринимая неопределенность как неудобство.

Предложение о замедлении развития передового ИИ в конечном счете будет оцениваться по тому, что изменится вне цикла запуска: по выполненной работе, сокращённым рискам, понесённым затратам и людям, которые сохраняют полномочия, когда система ошибается. Это более медленные показатели, но именно они определяют, продлится ли это развитие.

Темы: Anthropic, OpenAI, безопасность ИИ, управление