Анализ
Аргумент Дженсена Хуана о модели открытого типа ставит Nvidia на обе стороны гонки ИИ
Генеральный директор Nvidia Дженсен Хуанг утверждал, что ограничение открытых моделей искусственного интеллекта может ослабить безопасность США, позиция, которая находится посередине более острого конфликта по поводу китайской конкуренции и доступа к передовым системам.
Эльвин С ·
Nvidia Генеральный директор Дженсен Хуанг утверждал, что ограничение открытых моделей ИИ под предлогом национальной безопасности может сделать Соединённые Штаты более уязвимыми. Об этом сообщается в Axios, ставит самого важного в мире поставщика ИИ-чипов в дебаты, которые уже не являются теоретическими. Китайские разработчики открытых моделей привлекают глобальное внимание, в то время как американские официальные лица оценивают вопросы безопасности, коммерческую конкуренцию и сложность контроля программного обеспечения после того, как веса будут широко распространены.
Дело Хуанга является аргументом, а не окончательным выводом о безопасности. Его беспокоит, что страна, которая отказывается от открытой разработки, может потерять видимость, таланты и оборонительные возможности, в то время как конкуренты продолжают создавать. Противоположная точка зрения так же прямолинейна: способные открытые веса могут снизить барьер для неправильного использования и усложнить применение контроля со стороны разработчика после того, как модель покидает исходного разработчика.
Анализ рынка начинается с стимулов. Nvidia продает вычислительную инфраструктуру, используемую передовыми лабораториями, облачными провайдерами, стартапами и создателями открытых моделей. Широкое внедрение ИИ расширяет рынок этой инфраструктуры. Это не делает аргумент Хуана о безопасности недействительным. Это означает, что его позиция исходит от компании с необычно широкой зависимостью от исхода дебатов об доступе.
Белый дом уже проводил национальную политическую концепцию по ИИ, что является признаком того, что федеральные чиновники рассматривают фрагментированные правила как стратегическую проблему. Но национальная концепция не решает более сложный вопрос о том, что должно контролироваться. Модель, размещенная на сервере, может контролироваться, ограничиваться по скорости и быть удалена. Загруженная модель может быть адаптирована и запущена в другом месте. Разница носит операционный, а не риторический характер.
Конкурентное давление со стороны Китая делает выбор менее комфортным. Ограничение, которое в основном применяется к американским компаниям, может ограничить отечественных разработчиков, не препятствуя при этом международному распространению способных моделей. Однако рассматривать эту реальность как повод отказаться от мер предосторожности означало бы путать рыночную проблему с вопросом безопасности. Правительствам необходимо решить, какие возможности создают материальный риск и какие меры контроля могут работать после распространения моделей.
Для инвесторов и покупателей вероятным результатом станет разделение рынка. Хостинговые передовые системы будут делать упор на контроль, аудиторские следы и договорные гарантии. Открытые системы будут делать упор на гибкость, стоимость и локальный контроль. Компании, которые смогут работать в обоих мирах, могут получить преимущество, но клиентам придется взять на себя больше ответственности за оценку и безопасность.
Вмешательство Хуанга важно потому, что оно отвергает простую историю, в которой закрытый доступ равен безопасности, а открытый доступ равен опасности. Ни одна из этих ярлыков не отвечает на вопрос, кто может использовать модель, что они могут с ней сделать и кто несет ответственность, когда она не срабатывает. Следующий этап гонки ИИ будет определяться меньше лозунгами об открытости и больше тем, смогут ли учреждения построить механизмы контроля, соответствующие системам, которые они пытаются регулировать.
Темы: Nvidia, открытые модели, Китай, политика в области ИИ