Политика

Давление Meta по проверке моделей показывает, что OpenAI превращается в поле политической борьбы

Стратегия Meta по открытым моделям сталкивается с более жесткой системой управления. Давление на предварительную проверку показывает, что открытость моделей теперь оценивается через призму национальной безопасности, безопасности и конкуренции одновременно.

Майкл С.

Давление Meta по проверке моделей показывает, что OpenAI превращается в поле политической борьбы
MANTIS_

Meta's открытая модель стратегия становится предметом политической борьбы. По мере того как правительства уделяют больше внимания возможностям продвинутых моделей, вопрос больше не ограничивается тем, ускоряют ли открытые модели инновации. Вопрос в том, должны ли мощные релизы проходить проверку до того, как они станут доступны глобальной базе разработчиков.

Это давление создаёт серьёзную дилемму. Открытые модели могут снижать затраты, помогать стартапам конкурировать, поддерживать исследователей и уменьшать зависимость от закрытых передовых лабораторий. Их также можно копировать, модифицировать и развертывать в местах, где у оригинального разработчика практически нет контроля.

Открытый выпуск и национальная безопасность

Предложения по предварительному обзору отражают изменение в понимании политиками распространения моделей. Загружаемая модель не является обычным программным продуктом. После широкого выпуска её трудно изъять. Это делает время проведения обзора политически важным, особенно для моделей с возможностями программирования, кибербезопасности, убеждения или научными возможностями.

Выпуск открытых моделей всё чаще рассматривается одновременно через призму безопасности, охраны и конкуренции. Изображение: MANTIS_.
Выпуск открытых моделей всё чаще рассматривается одновременно через призму безопасности, охраны и конкуренции. Изображение: MANTIS_.

Аргумент Meta, вероятно, останется таким: открытость повышает подотчетность и расширяет участие. Критики ответят, что самые мощные открытые модели изменяют оценку рисков, поскольку их можно тонко настраивать и распространять за пределы первоначальной зоны безопасности.

Конкуренция осложняет обеспечение безопасности

Политические дебаты также являются рыночными дебатами. Закрытые лаборатории выигрывают, если открытые релизы подвергаются более строгому контролю. Сторонники открытых моделей обеспокоены, что системы проверки могут стать рвом для устоявшихся игроков с большими юридическими, комплаенс и государственно-правовыми командами.

Управление выпуском ИИ движется от добровольных обещаний к коридорам политической власти. Изображение: MANTIS_.
Управление выпуском ИИ движется от добровольных обещаний к коридорам политической власти. Изображение: MANTIS_.

Темы: Meta, открытые модели, политика в области ИИ, проверка моделей