Этика
Apple позволяет пользователям добровольно участвовать в обучении Siri и Apple Intelligence
Apple обновила своё раскрытие информации о базовой модели, заявив, что пользователи могут добровольно предоставлять данные для улучшения Siri и Apple Intelligence, создавая новый тест на возможность сосуществования значимого согласия с ориентированной на конфиденциальность стратегией ИИ компании.
Майкл С.
КУПЕРТИНО, Калифорния. Apple изменила описание фундаментальных моделей, лежащих в основе Siri и Apple Intelligence, заявив, что люди могут подключаться по желанию для помощи в улучшении этих систем, добавляя путь добровольного предоставления данных в стратегию продукта, построенную вокруг обработки на устройстве и Private Cloud Compute. Apple заявляет, что личные данные и взаимодействия не используются для обучения, если пользователь явно не выбирает участие.
Это различие важно, потому что помощники улучшаются, когда разработчики могут изучать реальные ошибки, акценты, языки и неоднозначные запросы. Apple сознательно ограничила рутинный доступ к этим взаимодействиям. Программа с добровольным участием может предоставить доказательства того, что синтетические тесты и контролируемые Red Teams пропускают, но только если согласие является информированным, обратимым и достаточно ограниченным, чтобы пользователи понимали, чем они делятся.
Конфиденциальность по умолчанию соответствует потребности в обратной связи
Модели третьего поколения Apple работают на устройствах и на Частное облачное вычисление для запросов, требующих более мощных систем. Архитектура разработана так, чтобы минимизировать личную информацию, доступную серверам, и позволять внешним исследователям изучать части дизайна безопасности облака. Это дает компании отличную отправную точку по сравнению с сервисами, которые обрабатывают большинство взаимодействий централизованно.
Семейство моделей поддерживает новый Siri, редактирование фото, Image Playground и выразительные голоса на множестве языков. Локальная обработка может снизить задержку и объем передаваемых данных, но она также затрудняет улучшение, поскольку разработчики видят меньше естественных примеров того, где система дает сбой. Добровольный вклад — один из способов закрыть этот пробел в обратной связи без того, чтобы сбор данных стал стандартным.
Значимое согласие требует большего, чем переключателя с надписью «улучшить продукт». Apple следует объяснить, какие взаимодействия могут быть проверены, связаны ли они между сессиями, как удаляются идентификаторы, как долго хранятся данные и может ли человек удалить предыдущий вклад. Чем более личным становится помощник, тем выше вероятность того, что обычный запрос будет содержать информацию о здоровье, отношениях, местоположении или финансах.
Голос создает дополнительную чувствительность. Запись может раскрыть личность, эмоции, фоновые разговоры и детали окружающей среды помимо слов, которые транскрибируются. Программа может нуждаться в некотором необработанном аудио для улучшения распознавания речи, но она не должна рассматривать каждый связанный сигнал как одинаково необходимый. Минимизация данных означает сбор только того, что поддерживает заявленную исследовательскую цель, и удаление остального.
Вопрос качества также является вопросом справедливости
Датасеты с добровольным участием редко бывают репрезентативными. Люди, готовые делиться своими взаимодействиями, могут различаться по возрасту, региону, уровню технической уверенности или предпочтениям конфиденциальности. Языки с меньшей пользовательской базой могут оставаться недопредставленными, даже если программа глобальна. Apple заявляет, что использует многоязычное согласование и тестирование с носителями языка, но добровольно предоставленные производственные данные следует оценивать с точки зрения предвзятости, возникающей из самого факта участия.
Ограниченная программа всё же может быть ценной, если Apple публикует достаточно агрегированной информации, чтобы сторонние лица могли понять охват. Компании не нужно раскрывать частные примеры. Она может сообщать о количестве участников по языкам, о широких категориях ошибок, о правилах сохранения данных и о внесённых изменениях благодаря предоставленным данным. Прозрачность позволяет оценить, принес ли компромисс в области конфиденциальности реальное улучшение.
Регуляторы всё чаще проводят различие между данными, необходимыми для предоставления услуги, и данными, используемыми повторно для улучшения будущих моделей. Явное согласие (opt-in) соответствует этому различию, но важен дизайн интерфейса. Выбор, размещённый при настройке, окружённый другими экранами и описанный только в положительном ключе, может быть законно защищаемым, но при этом недостаточно понятным. Отказ не должен снижать функциональность основного продукта.
Это изменение также создает конкурентный сигнал. Apple заявляет, что качество модели не требует стандартного доступа ко всем частным взаимодействиям. Конкуренты могут утверждать, что централизованные данные обеспечивают более быстрое улучшение. Apple делает ставку на архитектуру, синтетические данные, редкомандную проверку и добровольные примеры, полагая, что это сможет предоставить способного помощника, сохраняя при этом более строгую стандартную границу.
Это утверждение будет проверено в повседневном использовании. Если Siri будет работать с большим количеством языков и сложными запросами, при этом участие по-прежнему остается добровольным и ограниченным, Apple покажет, что конфиденциальность может формировать инженерные решения, а не идти следом за ними. Если компания постепенно расширит смысл участия, новая программа может стать исключением достаточно масштабным, чтобы ослабить принцип, который она должна сохранять.
Темы: Apple, Siri, Apple Intelligence, конфиденциальность, обучающие данные