Политика
OpenAI и Anthropic оказывают давление на Вашингтон по вопросу китайских открытых моделей
OpenAI и Anthropic согласованы в Вашингтоне по вопросу того, что они описывают как риски от мощных китайских моделей с открытым доступом, усиливая политическую борьбу за доступ, конкуренцию и происхождение моделей.
Майкл С.
OpenAI и Anthropic обычно описываются как соперники, но на этой неделе они объединились в Вашингтоне вокруг общей проблемы: мощные китайские модели открытого типа развиваются быстрее, чем политика США. Axios сообщил 22 июля, что обе компании оказывают давление на чиновников из-за рисков, связанных с продвижением открытых моделей Китая, кампании, которая совпадает с ростом интереса к Kimi K3 от Moonshot AI и другим китайским системам со стороны разработчиков и корпоративных покупателей. Непосредственная борьба касается доступа к моделям. Более широкая борьба касается вопроса, сможет ли США защитить национальную безопасность, не используя регулирование в качестве щита для устоявшихся закрытых лабораторий.
Временной момент выбран не случайно. Ранее в этом месяце AP сообщило, что Moonshot Kimi K3 удивил часть технологической отрасли США результатами, которые казались конкурентоспособными по сравнению с ведущими системами от OpenAI и Anthropic. Привлекательность открытые веса проста. Разработчики могут проверять, адаптировать и запускать модели ближе к своим собственным данным. Компании могут сократить зависимость от одного поставщика API. Исследователи могут воспроизводить и расширять работу. Эти преимущества реальны. Так же реальны и вопросы безопасности, когда способная модель может быть скопирована и модифицирована после выпуска.
Институциональная проблема начинается с различия между хостинговыми и распределёнными системами. Хостинговые модели дают поставщикам контрольную точку. Они могут отслеживать использование, отзывать доступ, применять ограничения по скоростии обеспечивать соблюдение условий. Модели с открытым весом распределяют ответственность наружу. Как только веса становятся доступными, у первоначального разработчика меньше возможностей предотвратить злоупотребления, но пользователи и защитники также получают больше возможностей тестировать, адаптировать и защищать систему. Политики, которые рассматривают одну модель доступа как по сути безопасную, а другую как по сути опасную, упустят компромисс.
Правительство США также учитывает происхождение модели. Business Insider Сообщалось, что технологический чиновник Белого дома Майкл Крациос обвинил Moonshot в незаконном дистиллировании модели Fable компании Anthropic для разработки Kimi K3. Дистилляция сама по себе является законной техникой машинного обучения, но скрытное масштабное извлечение из модели другой компании вызвало бы другие вопросы, связанные с интеллектуальной собственностью, исполнением контрактов и национальной безопасностью. Сообщаемое обвинение остается оспариваемым, пока не будут опубликованы дополнительные доказательства.
Это различие имеет значение, потому что инструменты политики различаются. Если беспокойство связано с неправильным использованием после выпуска, ответ может включать пороги возможностей, ограничения на закупки, проверку благонадежности клиентов и экспортный контроль. Если беспокойство связано с кражей модели, решение смещается в сторону аудитов, внедрения водяных знаков, договорных ограничений, санкцийи гражданских исков. Если беспокойство связано с конкуренцией со стороны более дешевых китайских систем, честный ответ может заключаться в промышленной политике, а не в регулировании безопасности.
Сторонники открытых моделей будут утверждать, что ограничения могут ослабить конкурентоспособность США. Генеральный директор Nvidia Дженсен Хуанг изложил подобную точку зрения, предупреждая, что запрет или отговорка использовать открытые системы может снизить видимость и оборонительные возможности. Контраргумент со стороны ведущих лабораторий заключается в том, что самые мощные модели могут создавать кибер-, био-, манипуляционные и наблюдательные риски, которые не должны быть свободно загружаемыми. Обе аргументации могут быть одновременно искренними и исходить из собственных интересов.
Риск захвата регулирующих органов не является теоретическим. Если крупнейшие закрытые лаборатории убедят Вашингтон в том, что открытые веса представляют собой уникальную опасность, они могут добиться создания нормативной среды, благоприятной для компаний с большими юридическими командами, связями в правительстве и собственной инфраструктурой. Если законодатели проигнорируют реальные риски, они могут позволить мощным системам циркулировать без тестирования и подотчётности. Правильный стандарт должен основываться на возможностях, доказательствах и быть достаточно открытым, чтобы меньшие разработчики могли его понять до начала применения.
Международный аспект усложняет проблему. Ограничение в США может быть обязательным для американских компаний, в то время как зарубежные модели продолжают распространяться через репозитории, частные зеркала и зарубежных облачных провайдеров. Полный запрет на загружаемые веса трудно обеспечить после того, как модель распространилась. Это не делает политику бесполезной. Это означает, что политика должна сосредоточиться на реалистичных рычагах, таких как государственные закупки, правила для надежных поставщиков, контроль развертывания в высокорискованных областях и требования к раскрытию информации.
Теперь Вашингтону нужно разделить три вопроса, которые часто объединяют в один. Способны ли открытые китайские модели создавать существенные угрозы безопасности? Была ли какая-либо из них обучена через неправомерное извлечение данных из американских систем? Поможет ли их ограничение Соединённым Штатам или подтолкнет разработчиков к менее заметным каналам? На эти вопросы нужны доказательства, а не только лоббизм.
OpenAI и Anthropic поддержали более строгий подход к риску. Их аргументы заслуживают тщательного анализа, потому что технология мощная. Они также заслуживают анализа, потому что компании, выдвигающие эти аргументы, могут получить выгоду, если рынок будет двигаться в сторону доступа к моделям с размещением, регулированием и одобрением в США. Политическая задача заключается в том, чтобы управлять этой возможностью, не позволяя ни одной бизнес-модели устанавливать правила.
Темы: OpenAI, Anthropic, открытые модели, AI в Китае