Безопасность
Спор между Anthropic и Alibaba по дистилляции — это предупреждение о извлечении моделей
Обвинения Anthropic по поводу несанкционированного извлечения Claude показывают, почему безопасность моделей становится всё более похожей на предотвращение мошенничества. Передовые лаборатории теперь должны защищать поведение, а не только исходный код.
Автор: Лео У ·
С Anthropic-Alibaba Спор вокруг дистилляции предупреждает, что безопасность передовых моделей выходит за рамки простого взлома. Если конкурент или неавторизованный оператор может масштабно задавать запросы модели и обучать другую систему на её выводе, защищаемый актив — это не просто код или веса. Это поведение.
Это делает извлечение модели другой проблемой безопасности. Атакующему не обязательно взламывать дата-центр. Им может быть достаточно аккаунтов, автоматизации, методов оплаты и достаточного объёма трафика, который выглядит легитимно, пока закономерность не станет очевидной.
Дистилляция полезна и опасна
Дистилляция знаний является легитимной техника машинного обучения когда разрешено. Более маленькие модели могут учиться у крупных систем, делая их дешевле и проще для развертывания. Спор начинается, когда модель-учитель используется без разрешения или в нарушение условий использования.
Меры контроля будут знакомы каждому, кто работал в области платежей или облачного злоупотребления. Лабораториям нужны ограничения по скорости, проверка клиентов, обнаружение аномалий, поведенческие отпечатки и пути юридического эскалации. Сложная часть — отделить интенсивное легитимное использование от извлечения.
Проблема политики, замаскированная под злоупотребление
Геополитический аспект обостряет спор. Если политики считают, что поведение продвинутой модели можно скопировать через доступ к API, они могут рассматривать управление учетными записями и доступ к облаку как инструменты контроля за экспортом. Это напрямую включило бы безопасность модели в национальную промышленную стратегию.
Темы: Anthropic, Alibaba, дистилляция моделей, безопасность ИИ