Политика
ЕС признает ChatGPT очень крупной поисковой системой в рамках Закона о цифровых услугах
Европейская комиссия отнесла ChatGPT к самой строгой категории в рамках Закона о цифровых услугах как очень крупную онлайн-поисковую систему. Теперь у OpenAI есть четыре месяца на оценку системных рисков, подчинение надзору и выполнение расширенных обязанностей по прозрачности.
Майкл С.
С Европейская комиссия назначил ChatGPT очень большой онлайн-поисковой системой в соответствии с Законом о цифровых услугах, помещая потребительский сервис OpenAI в высшую категорию надзора, предусмотренную законом. Комиссия отдельно назначила Reddit и Roblox очень большими онлайн-платформами. Каждый сервис сообщил о как минимум 45 миллионах средних ежемесячных пользователей в Европейском союзе, что является установленным законом порогом для усиленных обязательств. Классификация является важным ответом на вопрос, которого регуляторы избегали: когда чат-бот извлекает и синтезирует информацию для массовой аудитории, он может регулироваться как часть поисковой экосистемы, а не как обычное программное обеспечение.
У OpenAI есть четыре месяца с момента официального уведомления, чтобы выполнить дополнительные обязанности. Комиссия заявляет, что эти обязанности включают в себя выявление и смягчение системных рисков, связанных с незаконным контентом, вредом для несовершеннолетних, физическим и психическим здоровьем, основными правами, выборами и общественной безопасностью. ChatGPT также столкнется с более строгими требованиями к прозрачности, аудиту и доступу к данным. Назначение не заявляет о том, что сервис нарушил закон. Оно признает, что масштаб и функции продукта создают последствия, которые требуют более строгого процесса управления.
Называть ChatGPT поисковой системой юридически важно, потому что продукт делает больше, чем просто размещает пользовательские сообщения. Он отвечает на вопросы, сочетая знания модели, поиск в интернете и сгенерированный язык. Пользователь может никогда не увидеть исходный процесс ранжирования или полный набор рассматриваемых источников. Следовательно, сервис может формировать доступ к информации так, что это похоже на поиск, при этом добавляя новый уровень синтеза. Рамки DSA предоставляют регуляторам возможность изучить этот уровень, не дожидаясь принятия специального закона о чат-ботах.
Классификация также отвергает узкое понимание генеративного ИИ как частного разговора между пользователем и моделью. В масштабе ChatGPT ответы могут влиять на общественное понимание, коммерческую видимость и политический дискурс. Уверенная ошибка о выборах, лечении или юридическом праве может распространяться через скриншоты и промежуточные инструменты, даже если она началась в одной сессии. Анализ системных рисков требует от поставщика выйти за рамки одного ответа и изучить повторяющиеся шаблоны, распределение и предсказуемое неправильное использование сервиса.
DSA превращает заявления о безопасности в задокументированные обязательства
Очень крупные сервисы должны проводить регулярную оценку рисков и применять соответствующие меры по их снижению. Для ChatGPT это должно означать наличие доказательств того, как компания выявляет вредоносные режимы сбоев, тестирует изменения, отслеживает злоупотребления и оценивает, работает ли защита. Закон не требует от регулятора диктовать каждую реакцию модели. Он требует, чтобы поставщик показал, что изучил риски, создаваемые структурными решениями, и что меры по снижению рисков — это больше, чем просто заявление о политике.
Независимый аудит будет затруднителен, поскольку передовая модель не является статичной. OpenAI может изменять подсказки, системы поиска, классификаторы безопасности и версии модели без выпуска нового названия потребительского продукта. Аудит, проведенный для одной конфигурации, может быстро устареть. Регуляторам и аудиторам потребуются записи версий, доступ к представительным тестированиям и метод определения того, когда существенное изменение требует повторного рассмотрения. Полезным объектом надзора является операционная система вокруг ChatGPT, а не только веса одной модели.
Доступ исследователей к данным станет ещё одним испытанием. DSA содержит механизмы, предназначенные для поддержки проверенных исследований системных рисков, но генеративные системы содержат конфиденциальные пользовательские разговоры и информацию о безопасности. OpenAI будет справедливо утверждать, что неограниченное раскрытие может подвергнуть риску конфиденциальность или способствовать атакам. Регуляторам придётся создавать защищённые каналы, которые позволят изучать агрегированное поведение, рекомендации и механизмы контроля рисков без превращения пользовательских данных или уязвимостей моделей в публичные записи.
Обозначение может потребовать большей ясности в отношении видимости источников. Если ChatGPT рассматривать как сервис поиска, издатели и пользователи будут спрашивать, как выбираются, цитируются и исключаются источники. DSA не является законом об авторском праве и не гарантирует направленный трафик. Он создает давление на прозрачность в отношении систем ранжирования и рекомендаций. Для сгенерированного ответа эквивалентные вопросы включают, какие результаты поиска повлияли на ответ, как коммерческие отношения влияют на представление информации и когда сервис выбирает ответ без видимых источников.
Апелляции пользователей также принимают другую форму. Платформы традиционно модерируют аккаунты или удаляют посты. Чат-бот может отклонить запрос, ограничить аккаунт, скрыть источник или сгенерировать вредоносный ответ. Каждое действие вызывает разные вопросы надлежащей процедуры. OpenAI потребуется объяснить, какие решения подпадают под механизмы подачи жалоб по DSA и как пользователь может их оспорить. Обычно одной кнопки обратной связи будет недостаточно, если сервис принимает значимые решения о доступе или видимости.
ChatGPT, Reddit и Roblox представляют разные профили риска
Комиссия объявила о трёх назначениях одновременно, потому что они превысили один и тот же порог аудитории, а не потому, что их системы взаимозаменяемы. Reddit организует пользовательские сообщества и сильно зависит от волонтёрской модерации. Roblox сочетает социальное взаимодействие, платежи и пользовательский контент, используемый многими детьми. ChatGPT генерирует ответы и всё чаще действует через инструменты. Ценность DSA будет зависеть от того, адаптирует ли надзор общие принципы к этим различным конструкциям, а не применяет один контрольный список ко всем сервисам.
Для ChatGPT ключевыми являются поведение модели и поиск информации. Для Reddit управление может сосредоточиться больше на незаконном контенте, системах рекомендаций и отношениях между компанией и модераторами. Для Roblox особое внимание, вероятно, будет уделяться безопасности детей, коммерческому дизайну и коммуникациям. Комиссия будет контролировать соблюдение вместе с национальными органами в Ирландии для ChatGPT и Reddit и в Нидерландах для Roblox, что отражает места, где расположены европейские операции этих компаний.
Общее обозначение по-прежнему создаёт полезный ориентир. OpenAI больше не может утверждать, что его интерфейс находится вне регулирования платформ, только потому что контент создаётся по запросу. И наоборот, регуляторы не могут рассматривать каждую ошибку модели как доказательство нарушения DSA. Юридический вопрос заключается в том, оценила ли компания предсказуемые системные риски, приняла ли соответствующие меры контроля, отреагировала ли на доказательства и выполнила ли обязанности по прозрачности. Этот стандарт требует многого, не создавая иллюзии, что нулевой уровень ошибок возможен.
Комиссия может налагать значительные штрафы за несоблюдение требований, но принуждение к исполнению должно начинаться с запросов конкретной информации и проверяемых ожиданий. Широкий запрос о том, чтобы сделать ChatGPT безопасным, приведет к созданию документов, а не к ответственности. Запрос доказательств тестирования запросов, связанных с выборами, незначительных мер защиты, указания источников или реагирования на инциденты может показать, работает ли процесс. Технические возможности регулятора будут иметь такое же значение, как и максимальный штраф по закону.
Классификация поиска распространится за пределы Европы
Маловероятно, что OpenAI будет поддерживать полностью отдельные системы управления для каждой юрисдикции. Оценки рисков DSA, журналы изменений и контроль аудита могут стать внутренними стандартами, используемыми в других местах, особенно когда корпоративные клиенты требуют те же доказательства. Этот эффект распространения является одной из причин, по которой обозначение имеет значение на глобальном уровне. Европейское законодательство может формировать операции продукта, не требуя идентичности каждой функции на всех рынках.
Другие поставщики ИИ должны предполагать, что масштаб приведет к аналогичной проверке. Комиссия заявляет, что продолжит мониторинг сервисов, которые соответствуют установленным законом критериям. Конкурент может избежать назначения, пока он мал, но он не может строить регуляторную стратегию на основе того, чтобы оставаться ниже 45 миллионов пользователей навсегда. Командам по продукту необходимы журналы, записи оценок и процессы рассмотрения жалоб до того, как они станут обязательными. Добавление их задним числом после назначения происходит медленнее и менее убедительно.
Издатели и группы гражданского общества теперь имеют формальный канал для запроса информации о том, как ChatGPT влияет на доступ к информации. Это не гарантирует согласия с OpenAI или Комиссия, и DSA не могут решить все вопросы относительно обучающих данных или рыночной власти. Это переносит дискуссию с добровольных встреч в процесс с установленными сроками, документами и надзорными полномочиями. Следующие четыре месяца покажут, как Комиссия переведет пометку поисковой системы в обязательства, подходящие для сгенерированных ответов.
Реклама и коммерческое размещение потребуют особой ясности по мере расширения монетизации ChatGPT. Сгенерированный ответ может объединять рекомендации, резюме и действия в одном интерфейсе. Пользователи должны знать, когда оплата влияет на то, что отображается, и оказывало ли спонсируемое содержание влияние на источники, использованные для обоснования ответа. Правила прозрачности DSA предоставляют отправную точку, но регуляторам могут понадобиться рекомендации, адаптированные к разговорным форматам, где реклама не ограничена привычной областью рядом с органическими результатами.
Малая защита также сложна, потому что подтверждение возраста может противоречить конфиденциальности. OpenAI необходимы меры контроля, подходящие для младших пользователей, без сбора большего объёма идентификационных данных, чем необходимо, от всех. Оценка рисков должна учитывать самоповреждение, сексуальный контент, манипуляции и склонность воспринимать отзывчивую систему как надёжного компаньона. Смягчение рисков может включать установки по умолчанию, соответствующие возрасту, эскалацию кризисных ситуаций, родительские инструменты и ограничения на убедительное поведение, но каждая мера должна быть проверена на предмет непредвиденной исключенности и ложных срабатываний.
Риск выборов проверит разницу между сгенерированной речью и распространением. У ChatGPT нет обычной социальной ленты, но он может предоставлять персонализированные объяснения в огромных масштабах и может быть интегрирован в инструменты, которые публикуют контент в других местах. OpenAI следует измерять фактическую надежность текущей политической информации, раскрывать информацию, когда извлечение недоступно, и отслеживать скоординированные попытки автоматизации убеждения. Регуляторам следует избегать требования одного официального ответа при одновременном настаивании на ясном указании источников и быстром исправлении явно ложных утверждений.
Рассмотрение основных прав должно включать охват различных языков. Мера защиты, которая хорошо работает на английском, может оказаться неэффективной на меньших европейских языках или диалектах, создавая неравный доступ и риск. OpenAI потребуется наборы для оценки, экспертная проверка и анализ жалоб по всему Союзу, а не просто переведённая страница с политикой. Комиссия должна требовать предоставления доказательств по языку и сфере применения, чтобы агрегированные показатели не скрывали слабую защиту для сообществ с меньшими ресурсами обучения.
Обозначение также может прояснить отчетность по инцидентам. Обновление модели, которое вызывает внезапное увеличение вредоносных ответов, может повлиять на миллионы пользователей до того, как обычные продуктовые метрики это зафиксируют. OpenAI следует определить, какие события требуют уведомления регуляторов, как сохраняются затронутые результаты и когда откатывается изменение. Отчеты должны защищать конфиденциальность пользователей, предоставляя при этом руководителям достаточно информации, чтобы отличить единичные ошибки от системного сбоя в дизайне. Совершенная процедура будет рассматривать регрессии модели с такой же серьезностью, как и инциденты безопасности и доступности.
Наиболее важным последствием является институциональное. ChatGPT стал достаточно крупным, чтобы европейские регуляторы больше не рассматривали его как экспериментальный уровень, прикреплённый к интернету. Они рассматривают его как инфраструктуру, через которую миллионы людей ищут и интерпретируют информацию. OpenAI может оспаривать детали этой аналогии, но бремя поменялось. Теперь компания должна демонстрировать в соответствии с законом, как система, которая отвечает на уровне поисковой системы, управляет рисками, связанными с влиянием поисковой системы.
Темы: ChatGPT, Европейский Союз, Закон о цифровых услугах, OpenAI, регулирование платформ