Политика
Давление Meta по проверке моделей показывает, что OpenAI превращается в поле политической борьбы
Стратегия Meta по открытым моделям сталкивается с более жесткой системой управления. Давление на предварительную проверку показывает, что открытость моделей теперь оценивается через призму национальной безопасности, безопасности и конкуренции одновременно.
Майкл С.

Meta's открытая модель стратегия становится предметом политической борьбы. По мере того как правительства уделяют больше внимания возможностям продвинутых моделей, вопрос больше не ограничивается тем, ускоряют ли открытые модели инновации. Вопрос в том, должны ли мощные релизы проходить проверку до того, как они станут доступны глобальной базе разработчиков.
Это давление создаёт серьёзную дилемму. Открытые модели могут снижать затраты, помогать стартапам конкурировать, поддерживать исследователей и уменьшать зависимость от закрытых передовых лабораторий. Их также можно копировать, модифицировать и развертывать в местах, где у оригинального разработчика практически нет контроля.
Открытый выпуск и национальная безопасность
Предложения по предварительному обзору отражают изменение в понимании политиками распространения моделей. Загружаемая модель не является обычным программным продуктом. После широкого выпуска её трудно изъять. Это делает время проведения обзора политически важным, особенно для моделей с возможностями программирования, кибербезопасности, убеждения или научными возможностями.

Аргумент Meta, вероятно, останется таким: открытость повышает подотчетность и расширяет участие. Критики ответят, что самые мощные открытые модели изменяют оценку рисков, поскольку их можно тонко настраивать и распространять за пределы первоначальной зоны безопасности.
Конкуренция осложняет обеспечение безопасности
Политические дебаты также являются рыночными дебатами. Закрытые лаборатории выигрывают, если открытые релизы подвергаются более строгому контролю. Сторонники открытых моделей обеспокоены, что системы проверки могут стать рвом для устоявшихся игроков с большими юридическими, комплаенс и государственно-правовыми командами.

Темы: Meta, открытые модели, политика в области ИИ, проверка моделей