Политика
Anthropic выделяется, поскольку Кремниевая долина раскалывается по поводу открытых моделей и скорости ИИ
Компания Anthropic отказалась присоединиться к индустриальному письму в поддержку AI с открытым весом, в то время как сотрудники разных передовых лабораторий подписали отдельную петицию с призывом к правительствам подготовиться к замедлению разработки при необходимости.
Майкл С.
Anthropic все больше изолируется в борьбе отрасли за ИИ с открытым весом. Axios сообщил, что компания отказалась подписать письмо, инициированное Nvidia, призывающее Вашингтон не вводить преждевременные ограничения на открытые модели, даже несмотря на то, что отдельная петиция объединила сотрудников OpenAI, Google DeepMind, Meta и других фирм вокруг идеи о том, что правительства должны быть готовы сознательно замедлять разработку передовых технологий.
Эти две позиции не являются точными противоположностями, но они выявляют сложную проблему в политике. Открытые модели могут поддерживать независимые исследования, локальное развёртывание и защитное тестирование. Они также уменьшают возможность исходного разработчика контролировать или отзывать функциональность. Призывы к регулированию касаются другого вопроса: что должно происходить, когда возможности модели развиваются быстрее, чем оценка и контроль.
Сейчас это уже не дебаты между ускорением и ограничением. Это разногласие относительно контрольных точек, доказательств и того, кто несёт ответственность после выпуска. Законодателям придётся отделять законные вопросы безопасности от правил, которые лишь облегчить контроль за рынком для уже доминирующих поставщиков.
Темы: Anthropic, открытые веса, политика ИИ