Политика
Дженсен Хуанг предупреждает Вашингтон об опасениях по поводу ИИ, поскольку борьба за политику открытых моделей расширяется
Генеральный директор Nvidia Дженсен Хуанг призвал американских законодателей не позволять спекулятивным страхам по поводу ИИ влиять на политику, бросая вызов призывам закрытых передовых лабораторий к ужесточению контроля над китайскими моделями с открытым весом.
Майкл С.
Nvidia главный исполнительный директор Дженсен Хуанг выступил с публичным предупреждением в Вашингтоне в момент, когда политика США в области ИИ становится более обеспокоенной китайскими моделями с открытыми весами. Axios сообщил 23 июля, что Хуанг сказал законодателям не позволять страхам из научной фантастики определять правила искусственного интеллекта. Этот комментарий ставит наиболее важного в мире поставщика ИИ-чипов на другую риторику по сравнению с OpenAI и Anthropic, которые настойчиво обращались к чиновникам по поводу рисков мощных китайских моделей, таких как Kimi K3 от Moonshot AI.
Разногласие не является просто философским. Nvidia выигрывает, когда внедрение ИИ является широким, быстрым и вычислительно интенсивным. Лаборатории Frontier выигрывают, когда их собственные размещенные системы остаются стандартом для высокоценных задач. Разработчики открытых моделей выигрывают, когда клиенты могут загружать весовые коэффициенты, адаптировать их и запускать их локально. Каждая позиция содержит технические аргументы и коммерческие стимулы. Вмешательство Хуана важно, потому что он комментирует не только регулирование. Он защищает рынок инфраструктуры, в котором большее количество конкурирующих моделей обычно означает больший спрос на ускорители.
Борьба за открытые модели ускорилась после того, как Kimi K3 и другие китайские системы привлекли внимание благодаря высокой производительности и низким вывода ценам. Американские чиновники и закрытые лаборатории выразили озабоченность по поводу национальной безопасности, происхождения моделей, кибер-неправомерного использования и того, можно ли доверять китайским системам в корпоративных внедрениях. Сторонники открытого доступа отвечают, что веса, размещенные у пользователя, можно проверять, тестировать, адаптировать и изолировать от оригинального поставщика. Обе стороны спорят о рисках, но также спорят о том, кто контролирует производственный стек ИИ.
Техническое различие важно. Размещенная модель дает поставщику точку прямого контроля. Он может мониторить трафик, применять ограничения по скорости, приостанавливать действия пользователей и централизованно изменять поведение модели. Модель с открытым весом предоставляет эти возможности тому, кто её использует. Это усложняет злоупотребление для первоначального разработчика, но также даёт легитимным пользователям больше возможностей для аудита, тонкой настройки и развертывания без передачи конфиденциальных данных третьей стороне. Серьёзная политика должна учитывать обе стороны этой дилеммы.
Предупреждение Хуана также имеет место в рамках проблему экспортного контроля. дебатов. Бюро промышленности и безопасности Министерства торговли использовала контроль за чипами, чтобы ограничить доступ Китая к передовому оборудованию для ИИ. Эта стратегия сосредоточена на входных данных для разработки моделей. Предлагаемые ограничения на открытые веса китайских моделей будут сосредоточены на выходных данных, которые могут уже циркулировать. Первая проблема сложная. Вторая сложнее, потому что артефакт модели может перемещаться через репозитории, зеркала и частные передачи после выпуска.
Существует риск отмахивания от всех проблем безопасности как от фантазий. Мощные модели могут помочь в кибероперациях, убеждении, наблюдении и биологических исследованиях. Инцидент OpenAI-Hugging Face показал, что сами настройки оценки могут стать рискованными, когда моделям предоставляются ограниченные кибер-отказы. Вопрос заключается не в том, существует ли риск. Вопрос в том, основан ли политический ответ на наблюдаемых возможностях, реалистичных контрольных точках и доказательствах, а не на обобщенном страхе перед открытостью.
Также существует риск, если решение будет определяться закрытыми лабораториями. Если Вашингтон примет, что самой безопасной моделью всегда является размещенная модель от нескольких крупных американских компаний, регулирование может укрепить рынок вокруг действующих игроков. Это может улучшить мониторинг на стороне поставщика, но ослабит доступ к исследованиям, независимую оценку и возможности предприятий влиять на ценообразование. США в конечном итоге могут защищать бизнес-модель, утверждая, что защищают национальную безопасность.
Аргумент Хуанга, следовательно, следует рассматривать как требование к более широкой политической повестке. Производители чипов, компании с открытой моделью, исследователи в области безопасности, поставщики облачных услуг, передовые лаборатории и корпоративные покупатели видят разные аспекты риска. Если Вашингтон будет слушать только самых громких разработчиков закрытых моделей, он упустит операционный уровень, на котором на самом деле будут работать многие системы ИИ.
Коммерческие ставки ясны. Nvidia продаёт оборудование, которое делает возможными как закрытые, так и открытые ИИ-системы. Политика, замедляющая широкое развёртывание, может защитить некоторые передовые лаборатории, но также может сократить число компаний, покупающих ускорители, сетевое оборудование и системы дата-центров. Предпочтение Хуана к внедрению поэтому неудивительно. Полезный вопрос не в том, есть ли у Nvidia стимулы. У всех участников дебатов они есть. Полезный вопрос в том, совпадают ли эти стимулы с конкурентоспособной и безопасной экосистемой ИИ.
Модели с открытыми весами создают особую проблему для стратегии США, поскольку они могут распространять возможности за пределы немногих компаний, с которыми Вашингтон знает, как связываться. Именно поэтому официальные лица внимательно слушают закрытые лаборатории, когда те предупреждают о китайских релизах. Но та же открытость поддерживает университеты, стартапы, команды государственного сектора и компании, которые не могут или не хотят помещать чувствительные данные в размещённое API. Ограничение доступа к весам может сократить некоторый злоупотребления, одновременно ослабляя внутренние эксперименты.
Дебаты вокруг Кими обострились, потому что цена является частью истории безопасности. Модель, которая достаточно хороша и достаточно дешева, может быстро распространяться среди сообществ разработчиков и предприятий. Низкие цены на вывод упрощают принятие как для легитимных пользователей, так и для потенциальных злоумышленников. Это не значит, что низкая цена сама по себе является угрозой. Это означает, что оценки возможностей должны учитывать стоимость, доступность, документацию и сложность внедрения, а не только показатели по бенчмаркам.
Существует также различие между риском китайской собственности и риском открытой модели. Использование китайского хостингового сервиса может вызывать вопросы о раскрытии данных, юридическом принуждении и операционной зависимости. Скачанная модель с открытыми весами поднимает другие вопросы о происхождении, скрытом поведении, соблюдении лицензий и возможном злоупотреблении после выпуска. Рассматривать эти вопросы как одинаковые может привести к неэффективной политике. Компания может разумно избегать API, размещенных за рубежом, при этом все еще тестируя локальную модель с открытыми весами под строгим контролем.
Предостережение Хуана против страха не отвечает на все вопросы безопасности, но оно оказывает давление на законодателей, чтобы они уточнили, какой вред они пытаются предотвратить. Опасения связаны с киберзлоупотреблениями, биологической поддержкой, иностранным влиянием, зависимостью от китайской инфраструктуры ИИ или утратой лидерства США в моделях? Каждое из этих беспокойств требует использования разных инструментов. Контроль за экспортом, правила закупок, стандарты оценки, отчетность о происшествиях и ограничения доступа к моделям не являются взаимозаменяемыми.
Дебаты также выявляют напряжение в американской политике в области ИИ. Чиновники хотят, чтобы компании США лидировали на глобальном уровне, но они также хотят контролировать опасные возможности. Они хотят, чтобы союзники и отечественные стартапы имели доступ к мощным инструментам, но не хотят, чтобы противники извлекали выгоду из открытых релизов. Они хотят конкуренции с Китаем, но также хотят предотвратить погоню за снижением стандартов безопасности. Эти цели могут сосуществовать только в том случае, если политика будет более точной, чем просто широкое предпочтение закрытых или открытых систем.
Для предприятий непосредственным воздействием является неопределённость в закупках. Покупателям, оценивающим модели с открытым весом, придётся учитывать не только производительность и общую стоимость, но и то, может ли модель стать политически чувствительной, ограниченной в использовании государственными органами или подчинённой новым обязательствам по соблюдению правил. Поставщики закрытых моделей будут использовать эту неопределённость в коммерческих беседах. Сторонники открытых моделей будут отвечать аргументами о проверяемости и контроле. В результате формируется рынок, где политические нарративы становятся частью технического выбора.
Позиция Nvidia также может повлиять на другие компании, занимающиеся инфраструктурой. Облачные провайдеры, разработчики микросхем, системные интеграторы и операторы центров обработки данных все выигрывают от широкого рынка ИИ. Если они начнут более открыто противостоять предупреждениям закрытых лабораторий, Вашингтону придется согласовывать конкурирующие претензии отрасли, а не рассматривать передовые лаборатории как основной источник экспертизы. Это сделало бы политику медленнее, но, вероятно, более обоснованной.
Аргумент в пользу открытой модели также связан с устойчивостью. Рынок, зависящий от небольшого числа размещённых систем, может давать сбои концентрированным образом. Прерывания, изменения цен, сдвиги в политике или отказ конкретного поставщика могут распространяться на множество приложений. Открытые веса дают некоторым организациям возможность работать локально, поддерживать непрерывность и адаптировать системы под свою собственную схему управления рисками. Эта устойчивость имеет ценность, особенно для правительств, больниц, производителей и компаний с конфиденциальными данными.
В то же время открытые веса могут затруднить отзыв. После выпуска способной модели оригинальный разработчик не может легко её отозвать. Этот факт делает оценку безопасности до релиза особенно важной. Это также означает, что дискуссия о политике должна сосредоточиться на порогах выпуска, документации, тестировании рисков и последующих обязанностях, а не на том, чтобы притворяться, что открытую модель можно централизованно контролировать, как размещённый API.
Комментарии Хуанга появляются на фоне того, как политика в области ИИ становится частью промышленной политики. США хотят, чтобы развивались центры обработки данных, производство микросхем, энергетическая инфраструктура, облачные сервисы и компании-модели. Ограничения, которые кажутся разумными с точки зрения безопасности, могут повлиять на капитальные расходы и долю на мировом рынке. Напротив, неограниченная конкуренция может создать давление для выпуска систем до того, как будут поняты все риски. Правительство пытается одновременно управлять обоими результатами.
Сфокусированность на китайской модели также создает дипломатические осложнения. Если американские чиновники будут представлять китайские открытые модели как по своей сути сомнительные, союзники могут задаться вопросом, касается ли это технического риска, национального происхождения или конкуренции. Это различие важно, потому что союзники могут хотеть доступа к доступным открытым системам, одновременно разделяя озабоченность США по поводу чувствительных развертываний. Политика, которая может объяснить разницу между доверенной локальной эксплуатацией и рискованной зависимостью, будет легче защищаться на международной арене.
Самым достоверным путем, вероятно, является основанная на доказательствах оценка как в открытых, так и в закрытых системах. Регуляторы могут требовать отчеты о потенциально опасных возможностях, финансировать независимое тестирование, устанавливать стандарты закупок для высокорисковых применений и применять экспортный контроль там, где оборудование или услуги явно поддерживают возможности противника. Ни один из этих инструментов не требует заявлять, что открытость сама по себе является проблемой. Они требуют оценки того, на что способна модель и как она будет использоваться.
Поэтому вмешательство Хуана ценно даже для тех, кто не согласен с его выводом. Оно заставляет дискуссию признать, что политика в области ИИ формируется компаниями с разными бизнес-моделями. Закрытые лаборатории могут быть правы в вопросе некоторых рисков и при этом получать выгоду от правил, централизующих доступ. Сторонники открытых моделей могут быть правы в вопросах конкуренции и при этом снижать значимость злоупотреблений после выпуска. Инфраструктурные компании могут быть правы в вопросах внедрения и при этом предпочитать более мягкие правила, так как более широкое развертывание продает больше оборудования. Серьезный процесс разработки политики должен открыто учитывать эти стимулы, а не притворяться, что какая-либо группа говорит только о безопасности или только об инновациях.
Такой честности также помогло бы общественности понять, почему одна и та же компания может звучать осторожно в одном контексте и агрессивно в другом. Руководители в области ИИ общаются с инвесторами, регуляторами, клиентами, официальными лицами национальной безопасности и разработчиками, часто имея разные приоритеты. Хуанг говорит с позиции инфраструктуры, где остановки, вызванные страхом, выглядят как потеря развертывания. Лаборатории Frontier говорят с позиции моделей, где опасные возможности могут стать обузой, если конкуренты слишком свободно их выпускают. Разногласие не является отвлечением от политики. Это материальная политика, которой нужно управлять, особенно по мере того как доступ к модели становится показателем экономической мощи.
Политическая задача заключается в том, чтобы отделить научную фантастику от реального вреда, не делая вид, что это различие легко провести. Открытые модели могут быть полезными и рискованными. Закрытые модели могут быть контролируемыми и служить собственным интересам. Генеральный директор Nvidia аргументирует, что страх не должен становиться основой американской политики в области ИИ. Следующий вопрос заключается в том, смогут ли законодатели создать правила достаточно точные, чтобы регулировать возможности, не фиксируя рынок на одной модели доступа.
Темы: Nvidia, Дженсен Хуанг, открытые модели, политика в области ИИ