Безопасность
Ограничения модели Anthropic выявляют новый риск для киберзащитников
Лидеры кибербезопасности предупреждают, что ограничение доступа к передовым моделям ИИ может навредить как защитникам, так и противникам. Спор вокруг доступа к Anthropic показывает, почему политика в области национальной безопасности в отношении ИИ должна учитывать пользователей, действующих в оборонительных целях, а не только риск злоупотреблений.
Автор: Лео У ·
Кибербезопасность лидеры предупреждают, что ограничения на продвинутые модели ИИ могут ослабить как защитников, так и атакующих. Озабоченность усилилась в связи с Anthropic's спором о доступе к модели, где логика национальной безопасности сталкивается с реальностью: команды по обеспечению безопасности всё чаще используют передовые модели для обнаружения угроз, их классификации, анализа вредоносного ПО и реагирования на инциденты.
Политическая интуиция понятна. Продвинутые модели могут помочь злоумышленникам писать код, автоматизировать разведку, создавать фишинговый контент и анализировать уязвимости. Но защитники используют те же возможности для суммирования логов, поиска по кодовым базам, обратного проектирования подозрительных скриптов и реагирования быстрее, чем могли бы одни лишь человеческие команды.
Парадокс Защитника
Безопасность является асимметричной областью. Злоумышленникам нужен всего один путь проникновения; защитникам нужно отслеживать всё. Если лучшие инструменты ИИ будут слишком сильно ограничены, хорошо финансируемые злоумышленники всё равно могут найти альтернативы, в то время как законные команды безопасности потеряют системы, которые помогают им масштабировать ограниченную экспертизу.
Это не означает, что неограниченный доступ безопасен. Это означает, что политика нуждается в большей детализации. Государствам могут понадобиться уровни доверенных пользователей, проверяемый доступ, меры безопасности для конкретных доменов, доказательства от красной команды и аварийные каналы для защитников критической инфраструктуры. Бинарная модель разрешить-или-запретить плохо подходит к реальности кибербезопасности.
Доступ становится частью архитектуры безопасности
Наиболее практичный вопрос заключается не в том, опасны ли передовые модели. Вопрос в том, кто может их использовать, под какими контролями, с какой регистрацией действий и для каких защитных процессов. Команда по безопасности больницы, оператор телекоммуникаций или защитник энергетической сети имеет другой профиль риска по сравнению с анонимным аккаунтом, исследующим цепочки уязвимостей.
Также сложна сторона поставщика. Если лаборатории станут хранителями решений о доступе в сфере национальной безопасности, им понадобятся процессы, которые будут больше походить на регулируемую инфраструктуру, чем на потребительское программное обеспечение. Это включает проверку клиентов, мониторинг злоупотреблений, отчетность об инцидентах и достоверные апелляции для защитных пользователей, потерявших доступ.
Национальная безопасность работает в обе стороны
Темы: Anthropic, кибербезопасность, доступ к моделям, безопасность ИИ