Этика
Лаборатории ИИ ослабляют обязательства по безопасности, когда модели становятся сложнее для контроля
Новый индекс безопасности ИИ показывает, что крупные лаборатории отказываются от предыдущих обязательств по паузе, в то время как передовые системы становятся более функциональными. Это превращает добровольную безопасность в главный вопрос регулирования этого лета.
Майкл С.
Самая важная история о безопасности ИИ на этой неделе заключается не просто в том, что передовые модели становятся всё более способными. Это было заметно в течение нескольких месяцев. Более резким моментом является то, что несколько компаний, разрабатывающих эти системы, похоже, смягчают добровольные обязательства, которые должны были убедить правительства, инвесторов и общественность в том, что гонка всё ещё имеет пределы.
Новый отчёт, освещённый Axios, сообщает, что Институт будущего жизни (Future of Life Institute) обнаружил, что Anthropic, OpenAI, Google DeepMind и Meta ослабили или отменили предыдущие обещания приостановить разработку, если их системы достигнут указанных порогов опасности. Anthropic получила наивысший рейтинг в оценке, но только C+. OpenAI и Google DeepMind получили C, а экзистенциальная безопасность была признана самой слабой областью в отрасли.
Оценки следует рассматривать в контексте. Институт будущего жизни имеет определенное мнение о катастрофическом риске ИИ, и некоторые сторонники открытого исходного кода утверждают, что такие оценки могут наказывать за прозрачность. Тем не менее, в докладе поднимается реальная проблема управления: добровольные рамки безопасности имеют значение только в том случае, если компании сохраняют их, когда растет коммерческое давление.
Первоначальное обещание политики ответственного масштабирования было легко для понимания политиками. Если модель приближалась к опасным порогам возможностей и меры безопасности не были готовы, компания должна была замедлить, приостановить или не внедрять модель. Ни один глобальный регулятор не имел персонала, полномочий или доступа в реальном времени, чтобы принудить к такому решению, но публичное обязательство создавало репутационные последствия. Лаборатория, нарушившая собственное обещание по безопасности, должна была объяснить, почему.
Если порог для приостановки становится более условным, более дискреционным или более строго контролируемым руководителями, рамки начинают выглядеть меньше как обязательное ограничение и больше как слой коммуникации. Это особенно чувствительно сейчас, поскольку возможности моделей распространяются на области, где обычное тестирование продуктов слабо: кибербезопасность, биологическое рассуждение, автономные агенты, убеждение, долгосрочное планирование и использование инструментов.
Бенчмарк может показать, решает ли модель задачу. Он не может с легкостью показать, будет ли внедренный агент вести себя безопасно во множестве корпоративных рабочих процессов, у миллионов пользователей и при изменении разрешений инструментов. Эта неопределенность — причина того, почему рамки безопасности должны охватывать больше, чем только доску лидеров до релиза, и почему рынок создает структурное искушение: если одна лаборатория замедляется, пока другая выпускает продукт, осторожная лаборатория рискует потерять пользователей, разработчиков, корпоративные контракты и таланты.
В отчете также указывается на растущее военное использование коммерческих систем ИИ, сдвиг, который еще больше усложняет вопрос безопасности. Правительства хотят иметь возможности, надежность и доступ. Компании хотят доход и стратегическую значимость. Старая граница между гражданским ИИ и оборонным ИИ размывается, потому что модели, которые суммируют документы, пишут код или планируют рабочие процессы, также могут поддерживать анализ разведданных, кибербезопасность и логистику.
Практический ответ заключается не просто в том, чтобы требовать от компаний обещаний быть более осторожными. Следующий этап требует доступа для внешней оценки, подачи отчетов о происшествиях, раскрытия возможностей моделей, подотчетности на уровне совета директоров, защиты информаторов и четких триггеров для того, когда развёртывание должно замедлиться. Правительствам не нужно микроменеджить каждый выпуск модели, чтобы сделать эту систему сильнее, но они могут требовать документированных аргументов безопасности, независимого тестирования и публичных резюме остаточного риска.
Дебаты о безопасности входят в более зрелую и менее снисходительную фазу. Лаборатории больше не оцениваются по тому, публикуют ли они рамочную методологию. Их оценивают по тому, сохраняет ли эта методология силу, когда одновременно появляются следующая модель, следующий клиент и следующая конкурентная угроза.
Темы: безопасность ИИ, передовые лаборатории, управление ИИ, Институт Будущей Жизни