Анализ
Дистилляция ИИ превращает выводы моделей в следующую область борьбы за интеллектуальную собственность
По мере того как лаборатории обвиняют конкурентов в обучении на выводах моделей, индустрия ИИ сталкивается с проблемой разрешений, которая напоминает борьбу за веб-скрапинг, которую она когда-то навязала издателям.
Автор: Лео У ·
Следующая битва за интеллектуальную собственность в индустрии ИИ формируется вокруг странного переворота: компании, которые защищали широкую практику сбора данных, теперь обеспокоены тем, что другие лаборатории могут использовать результаты их моделей для обучения конкурентов.
Техническая идея не нова. Дистилляция может передавать поведение от одной модели к другой, обучая на выходных данных, демонстрациях или синтетических данных. Это позволяет делать меньшие системы более способными, снижать затраты и помогать исследователям создавать модели, не воспроизводя каждый этап передового обучения.
Коммерческая тревога нова, потому что передовые лаборатории теперь рассматривают свои выходные данные как дорогостоящий интеллектуальный капитал. Ответ модели — это не просто текст. Он может кодировать стиль рассуждений, поведение с точки зрения безопасности, компетентность в определенной области и уровень готовности продукта, достигнутый благодаря миллиардам долларов, вложенным в данные, вычислительные мощности и труд.
Это создаёт проблему с разрешениями. Если пользователь задаёт модели тысячи вопросов и использует ответы для улучшения другой модели, является ли это обычным использованием, нарушением контракта, недобросовестной конкуренцией или чем-то другим? Ответ может зависеть от условий обслуживания, масштаба, намерений, технических мер безопасности и судов, которые всё ещё адаптируются.
Лаборатории будут отвечать большим количеством ограничений. Ожидайте лимитов скорости API, исследования водяных знаков, мониторинга выводов, ограничений для клиентов, договорных пунктов и обнаружения аномалий, предназначенного для выявления систематического сбора данных. Эти меры могут защищать ценность модели, но также создают риск усложнения легитимных исследований и взаимодействия.
Иронию трудно не заметить. Издатели, художники, программисты и владельцы сайтов годами спорили о том, что компании, занимающиеся искусственным интеллектом, извлекают ценность из их работы без надлежащего согласия или вознаграждения. Теперь компании ИИ сталкиваются с той же жалобой с другой стороны стола.
Разница, конечно, есть. Выходные данные моделей создаются в ответ на запросы пользователей, тогда как веб-контент часто существовал независимо до того, как его собирали. Но моральный и экономический вопрос перекликаются: кто имеет право превращать чужой дорогостоящий процесс производства в учебный материал?
Эта борьба определит будущее открытого и закрытого ИИ. Закрытые лаборатории могут ужесточить доступ. Открытые экосистемы могут больше полагаться на синтетические данные и дистиллированное поведение. Корпоративные покупатели могут задаваться вопросом, создает ли процесс обучения модели юридические риски или нарушает условия другого поставщика.
Лаборатории ИИ хотели, чтобы интернет служил материалом для обучения. Теперь они, возможно, проведут следующие несколько лет, пытаясь убедить всех, что их собственные результаты отличаются.
Темы: дистилляция, интеллектуальная собственность ИИ, результаты моделей, лаборатории ИИ