Политика
Федеральный судья постановил, что назначение Пентагоном Anthropic как риска для цепочки поставок было незаконным
Федеральный судья постановил, что назначение Пентагоном Anthropic как риска для цепочки поставок являлось незаконной местью и лишало компанию, занимающуюся ИИ, надлежащей юридической процедуры. Это решение ограничивает возможность использования полномочий в области национальной безопасности против технологических поставщиков, которые публично оспаривают политику правительства.
Майкл С.
Федеральный судья постановил, что Пентагон действовал незаконно, когда пометил компанию Anthropic как риск для цепочки поставок и ввёл широкие ограничения на работу компании с федеральным правительством. Это решение является значимой ранней проверкой использования полномочий в области национальной безопасности на развивающемся рынке военного искусственного интеллекта. Оно не требует от Министерства обороны покупки технологий Anthropic и не завершает все споры между двумя сторонами. Оно же указывает на то, что разногласия по поводу публичной позиции поставщика и ограничений по безопасности не могут быть переупакованы в вывод о безопасности без доказательств и законного процесса.
Судья окружного суда США Рита Лин вынесла 59-страничное решение в Калифорнии после рассмотрения дела, которое включало публичную критику Anthropic со стороны чиновников администрации, директивы, направленные на федеральные агентства, и продолжающийся интерес правительства к технологии компании. Сообщение от Associated Press описывало решение как установление того, что эти меры были незаконными и необоснованными. Лин пришла к выводу, что назначение было вызвано местью за критику Anthropic предпочтительного для правительства подхода к военному ИИ, а не наличием обоснованных оснований полагать, что компания намерена саботировать продукцию, поставляемую в Пентагон.
Спор начался с существенного разногласия по политике. Anthropic сопротивлялась снятию ограничений, связанных с внутренней массовой слежкой и полностью автономным оружием, в то время как Пентагон утверждал, что технология, которую он покупает, должна быть доступна для любого законного военного использования. Это разногласие имеет значение. Поставщик модели может устанавливать коммерческие условия и отказывать в работе, которую считает небезопасной; правительство может выбрать другого поставщика. Конституционная проблема возникла, когда, по словам некоторых, чиновники вышли за рамки закупок и использовали широкое определение риска, чтобы наказать компанию на федеральном рынке.
Спор по закупкам превратился в конституционное дело
Лин установил, что действия правительства затрагивают Первую поправку потому что санкции последовали за публичной критикой Anthropic и отказом принять позицию администрации. Её анализ разделяет значительную свободу агентства в выборе подрядчика и его способность обременять компанию за защищённую речь. Эта граница особенно важна при закупках ИИ, где небольшое количество поставщиков контролирует системы с возможностями, влияющими на разведку, кибербезопасность, наблюдение и оружие. Если каждое разногласие можно охарактеризовать как риск цепочки поставок, поставщики сталкиваются с давлением принять политику правительства как условие для сохранения коммерческой жизнеспособности.
В решении также было выявлено нарушение надлежащей юридической процедуры согласно Пятой поправкеМетка цепочки поставок может иметь последствия, выходящие далеко за рамки одного контракта, влияя на отношения с агентствами, субподрядчиками, инвесторами и клиентами, которые воспринимают государственное обозначение как предупреждение. Компания, сталкивающаяся с такого рода штрафом, должна быть уведомлена о фактической основе и иметь реальную возможность для ответа. Суд пришел к выводу, что Anthropic не получила этот процесс до того, как правительство наложило меры с общенациональными коммерческими последствиями.
>>>S1018059_0<<< Судебные доказательства, на которые обратили внимание, усложнили поддержку позиции правительства. Официальные лица продолжали обсуждать контракты с участием Anthropic, а правительство сотрудничало с моделью Mythos компании в области кибербезопасности. Министр обороны Пит Хегсет поднял вопрос о применении Закона о производстве в интересах обороны, полномочия которого обычно связаны с ресурсами, считающимися важными для национальной безопасности. Лин отметил напряженность: компании нелегко одновременно представлять себя как важный источник возможностей и как поставщика, продукция которого по сути слишком опасна, чтобы ей доверять.
Технические отношения Anthropic с правительством еще больше усложнили обвинение. Как только модель передается в Министерство обороны, компания не сохраняет секретного канала, через который она могла бы изменять или отключать систему. Суд заявил, что материалы дела не подтверждают наличие такого скрытого контроля, который мог бы поддержать обычные опасения по цепочке поставок. Это различие переводит дело от спекулятивных страхов о сложности программного обеспечения к доказательствам, необходимым, прежде чем агентство сможет наложить карательное назначение.
Национальная безопасность могущественна, но не самоочевидна
Решение не отрицает, что поставщики ИИ могут представлять риски национальной безопасности. Модели переднего края могут раскрывать чувствительные данные, давать ненадежный анализ или использоваться в операциях с высокими последствиями. Министерство обороны несет ответственность за тестирование систем, обеспечение безопасности развертываний и выбор поставщиков, соответствующих требованиям миссии. То, что отклоняет это решение, — это идея о том, что произнесение слов «национальная безопасность» прекращает расследование. Определение риска по-прежнему требует фактической связи с действиями поставщика и процесса, пропорционального последствиям.
Этот стандарт может повлиять на будущие контракты, даже если правительство подаст апелляцию. Агентства разрабатывают рамки закупок, в то время как возможности моделей и корпоративные политики быстро меняются. Им придется различать технические требования безопасности и требования к поставщику отказаться от всех ограничений на допустимое использование. Четкие критерии тестирования, правила раскрытия информации, отчетность о инцидентах и договорные меры более долговечны, чем политические ярлыки, поскольку их можно применять ко всем поставщикам, а не нацеливать на компанию после публичного спора.
Решение также меняет условия для ведения переговоров для Anthropic. Компания может ссылаться на судебные решения при общении с агентствами и корпоративными клиентами, обеспокоенными обозначением со стороны правительства. Но она не получила постоянного права на федеральные заказы, и суд не одобрил все ограничения, которые компания накладывает на свои модели. Anthropic по-прежнему необходимо убедить клиентов из оборонного сектора в том, что её меры контроля совместимы с операционными требованиями и что её системы могут безопасно эксплуатироваться в условиях, где внешняя поддержка может быть ограничена.
Спор не завершён
В Вашингтоне, округ Колумбия, по-прежнему рассматривается отдельное и более узкое дело, связанное с другим юридическим подходом, который Пентагон использовал в попытке классифицировать Anthropic как риск для цепочки поставок. Ожидается также, что правительство оспорит решение Калифорнии. Эти судебные процедуры могут изменить практический эффект постановления Лина или привести к другой интерпретации полномочий в области оборонных закупок. На данный момент решение Лина является самым ясным судебным заявлением о том, что правительство не может превращать критику политики в общенациональное наказание для поставщиков без доказательств.
Этот случай также выявляет проблему проектирования рынка. Федеральные покупатели все больше зависят от небольшой группы поставщиков моделей, в то время как эти поставщики сохраняют свои собственные политики безопасности и коммерческие стимулы. Обычный программный контракт предполагает, что правительство может определить продукт, а поставщики могут конкурировать за его выполнение. С Frontier AI ситуация менее определена. Возможности меняются после начала закупки, поведение модели может быть сложно охарактеризовать, а поставщик может знать о потенциально опасных применениях больше, чем покупатель. Эта асимметрия делает прозрачное тестирование и согласованные меры контроля более важными, а не менее.
Мелкие поставщики будут пристально следить за исходом. У Anthropic были капитал и юридические ресурсы для того, чтобы оспорить действия правительства, но стартап с тем же назначением мог бы потерять клиентов еще до того, как суд сможет рассмотреть дело. Процедура, которая требует уведомления, конкретных доказательств и возможности дать ответ, защищает конкуренцию, а также свободу слова. Без нее агентства могут непреднамеренно усилить позиции крупнейшего игрока, делая каждого другого поставщика уязвимым перед непрозрачным исключением, которое партнеры не могут оценить самостоятельно.
Военные пользователи также нуждаются в ясности относительно того, что происходит, когда поставщик модели изменяет свои политики после развертывания. Контракты могут регулировать контроль версий, обязательства по поддержке, локальное функционирование и условия, при которых принимаются обновления. Они могут определять порядок сообщения о инцидентах и процесс разрешения спорных ситуаций без прерывания миссии. Такие положения более точны, чем требование неограниченного использования в принципе, и позволяют командирам понимать, какие возможности на самом деле доступны в поле.
Конгрессу в конечном итоге, возможно, придется создать единые рамки для закупок ИИ с высоким уровнем воздействия. В настоящее время агентства подходят к тестированию моделей, гражданским свободам и ограничениям для поставщиков через разные полномочия. Законодательная база могла бы требовать документированных моделей угроз, независимую оценку, права на обжалование и раскрытие существенных конфликтов интересов. Она также могла бы сохранять исключения для секретной информации, когда доказательства не могут быть обнародованы. Проблема заключается в разработке процесса, который уважает подлинную секретность, не превращая ее в ответ, который нельзя проверить.
Крупные корпорации и государственные покупатели также могут пересмотреть свою зависимость от федеральных обозначений рисков. Такие обозначения часто учитываются при оценке продавцов, даже если у другого покупателя другая модель угроз. Решение Лина показывает, почему команды закупщиков должны запрашивать доказательства и масштаб предупреждения, а не просто автоматически его принимать. Конкретная для обороны проблема может не применяться к гражданскому применению, в то время как вывод, вызванный местью, не должен становиться постоянной записью в частных базах данных рисков.
Решение не должно поощрять поставщиков воспринимать политики безопасности как неприкосновенные к переговорам. Государственные пользователи вполне могут требовать ясности, непрерывности и возможности исправления ситуации, когда ограничение мешает выполнению миссии. Надежная договоренность — это та, при которой обе стороны документируют такие конфликты до развертывания и определяют, кто может разрешать исключения. Конституционные ограничения на репрессалии защищают эти переговоры, позволяя компании излагать свою позицию, не считая заранее, разрушит ли критика остальную часть ее федерального бизнеса.
Нерешённым вопросом остаётся, будут ли агентства реагировать, разрабатывая лучшие правила закупки ИИ, или искать более узкий юридический механизм, который приведёт к тому же исключению. Первый путь заставил бы правительство и поставщиков определять технический риск, приемлемое использование и ответственность в контрактах, которые могут выдержать смену руководства. Второй путь сохранял бы неопределённость и делал бы доступ к федеральному рынку зависимым от политической согласованности. 59-страничное решение очерчивает границу, но практика закупок определит, станет ли эта граница институцией или лишь следующей стадией судебного разбирательства.
Темы: Anthropic, Пентагон, политика в области ИИ, надлежащая процедура, военный ИИ