Модели
Борьба Anthropic вокруг Fable 5 превращает доступ к моделям в проблему контроля экспорта
Сообщаемый приказ США, ограничивающий доступ к моделям Anthropic Fable 5 и Mythos 5, показывает, как быстро решения о выпуске передовых ИИ могут становиться вопросами национальной безопасности. Борьба касается не одной модели, а того, кто контролирует доступ, когда сталкиваются возможности, кибербезопасность и геополитика.
Майкл С.

AnthropicПоследняя борьба за доступ к модели стала одним из самых наглядных примеров того, как передовой ИИ превращается в проблему экспортного контроля. Репортаж от The Verge сообщает, что администрация Трампа распорядились 12 июня приостановить доступ иностранным гражданам к Claude Mythos 5 и Fable 5, пока чиновники расследуют опасения по поводу возможного взлома Fable 5.
Факты все еще оспариваются. Сообщается, что Anthropic утверждала, что спорное ограничение было незначительным и не уникальным для её систем, в то время как чиновники рассматривают этот эпизод как предупреждение о том, что наиболее продвинутые модели могут потребовать контроля, близкого к контролю за чувствительными технологиями, а не обычным программным обеспечением. В любом случае, практический эффект был немедленным: решения о доступе, которые ранее в основном принадлежали командам по продукту, безопасности и корпоративным вопросам, теперь связаны с оценкой национальной безопасности.
Доступ к моделям становится областью политики
Более глубокое изменение заключается в том, что доступ к модели больше не является просто уровнем ценообразования или графиком выпуска продукта. Передовой ИИ может помогать в программировании, киберанализе, научном рассуждении, убеждении и использовании инструментов. Это делает вопрос о том, кто может использовать модель, откуда, в каком режиме ведения журналов и с какими мерами предосторожности, самостоятельной политической проблемой.

Это создает сложную проблему управления. Если правительства будут ждать, пока модель уже будет развернута глобально, ограничения могут стать хаотичными и неэффективными. Если они вмешаются слишком рано, они рискуют замедлить работу законных исследователей, международных сотрудников и корпоративных клиентов, которые создают защитные или продуктивные приложения.
Проблема международного пользователя
С иностранный гражданин ограничение особенно взрывоопасно, поскольку лаборатории ИИ по умолчанию являются глобальными. Их исследовательские команды, клиенты, подрядчики и стартап-экосистемы пересекают границы. Контроль, предназначенный для снижения стратегической утечки, также может прервать обычное сотрудничество, усложнить соблюдение норм и подтолкнуть способных разработчиков к моделям за пределами юрисдикции США.
Для политиков США контраргумент заключается в том, что утечка возможностей может уже происходить через обычные коммерческие каналы. Если продвинутая модель может обнаруживать уязвимости, автоматизировать цепочки эксплуатации или помогать враждебным актерам ускорять выполнение чувствительных работ, официальные лица не будут рассматривать доступ как нейтральное потребительское решение.

Новая инструкция по выпуску
Спор вокруг Fable 5 указывает на необходимость новой стратегии выпуска для лабораторий на переднем крае. Карточек моделей и отчетов по безопасности будет недостаточно. Лабораториям может понадобиться доступ с учетом юрисдикции, задокументированные доказательства работы красной команды, каналы для подачи апелляций законными пользователями и заранее согласованные пути эскалации с государственными учреждениями до наступления следующего кризиса.
Темы: Anthropic, Claude, экспортный контроль, передовой ИИ