Политика
Канада постановила, что ChatGPT нарушил закон о защите личной информации — историческое событие для регулирования ИИ
Совместное расследование федерального и провинциальных комиссаров по защите личной информации Канады выявило, что OpenAI собирала и использовала персональные данные без существенного согласия, установив прецедент, который может изменить практику работы с данными ИИ во всем мире.
Майкл С.
Офис комиссара по вопросам конфиденциальности Канады (OPC) совместно с комиссарами по вопросам конфиденциальности Квебека, Британской Колумбии и Эдмонтона завершил совместное расследование в отношении ChatGPT компании OpenAI и пришёл к выводу, что компания нарушила канадский закон о конфиденциальности. Расследование, начавшееся в 2023 году после подачи жалобы, установило, что OpenAI собирала, использовала и раскрывала личную информацию без получения осознанного согласия — что является нарушением Закона Канады о защите личной информации и электронных документов (PIPEDA) и соответствующего провинциального законодательства.
Решение является самым значительным действием по обеспечению конфиденциальности в отношении крупной компании в области ИИ в Северной Америке на сегодняшний день. Оно не налагает финансового штрафа — механизмы обеспечения канадского законодательства о конфиденциальности в первую очередь носит декларативный и восстановительный характер, а не карательный — но устанавливает юридический прецедент, за которым внимательно следят регуляторы в других юрисдикциях. OpenAI оспорила выводы и заявила, что не будет добровольно внедрять рекомендуемые комиссией изменения, что может привести к передаче дела в суд.
Результаты расследования
Комиссары выявили три основных нарушения. Во-первых, OpenAI не получила действительное согласие на сбор личной информации, используемой для обучения ChatGPT. Аргумент компании о том, что данные, доступные публично, не требуют согласия, был отклонен — канадское законодательство требует согласия на сбор независимо от того, являются ли данные технически доступными. Во-вторых, было установлено, что политика конфиденциальности OpenAI недостаточно ясно объясняет, как личная информация используется при обучении моделей. В-третьих, компания не предоставила адекватные механизмы для того, чтобы люди могли получать доступ к своей личной информации или исправлять ее в учебных наборах данных.
Решение вынесено в тот момент, когда канадское законодательство о конфиденциальности само находится в процессе реформы. Законопроект C-22, предлагаемый как Закон о защите конфиденциальности потребителей, существенно усилит полномочия по обеспечению соблюдения — включая возможность наложения штрафов до 5% от мирового дохода за серьезные нарушения. Если законопроект C-22 будет принят в его нынешней форме и применен ретроактивно к нарушениям ChatGPT, OpenAI может грозить штраф в сотни миллионов долларов. Законопроект в настоящее время находится на рассмотрении в Сенате.
Глобальные последствия
Решение Канады имеет значение за пределами её границ, потому что оно напрямую отвечает на вопрос, с которым сталкиваются регуляторы во всем мире: требуется ли согласие на обучение большой языковой модели на данных, собранных из открытых источников? Европейский совет по защите данных также ищет ответ на этот вопрос в рамках GDPR. В 2023 году итальянский Garante временно заблокировал ChatGPT по аналогичным причинам. Ясный ответ канадских комиссаров — да, согласие требуется — предоставляет другим регуляторам правовую основу для ссылок.
Для компаний, занимающихся искусственным интеллектом, это решение сигнализирует о том, что защита «данные, доступные в публичном доступе» теряет силу в юрисдикциях общего права. Практическое следствие заключается в том, что любая компания, обучающая ИИ на данных, собранных с веб-сайтов, сталкивается с потенциальной ответственностью в Канаде и, возможно, в других юрисдикциях, которые последуют примеру Канады. Решение не требует от OpenAI удаления своих моделей или прекращения деятельности в Канаде — но оно требует от компании внедрить механизм получения согласия на сбор данных, что, если применить его глобально, фундаментально изменит процесс обучения передовых моделей ИИ.
Темы: OpenAI, Конфиденциальность, Канада, Регулирование ИИ, PIPEDA