Этика
Сообщаемые планы OpenAI по устройству без экрана ставят конфиденциальность в центр внимания окружающего ИИ
Сообщения о мобильном устройстве OpenAI без экрана показывают, почему следующая битва за потребительский ИИ будет не только о качестве голоса или дизайне. Речь будет идти о том, когда помощник слушает, что он запоминает и сколько контроля остается у пользователей.
Майкл С.
Сообщается, что OpenAI исследование мобильного потребительского устройства без экрана возобновляет старый технологический аргумент в новой форме: помощник, к которому всегда легче добраться, может также легче проникнуть в слишком многие аспекты жизни человека.
Привлекательность окружающего ИИ очевидна. Устройство, которое реагирует естественно с помощью голоса, может сократить ритуал разблокировки телефона, открытия приложения и набора запроса. Оно может быть полезным во время прогулки, приготовления пищи, вождения, работы с инструментами или помощи человеку, который не может легко пользоваться экраном.
Вопрос конфиденциальности начинается с того же удобства. Экран показывает человеку видимые границы: это приложение открыто, эта камера включена, это сообщение отправляется. Амбиентный ассистент может размывать эти границы, если его состояние прослушивания, поведение записи и хранение данных не будут однозначно ясны.
Это означает, что физические возможности по-прежнему имеют значение. Аппаратный переключатель без звука, видимое состояние микрофона, локальная обработка параметры, управление удалением и легко понимаемая история действий — это не мелкие детали. Они создают разницу между продуктом, который пользователи могут проверить, и тем, которому они просто должны доверять.
Задача проектирования усложняется, когда устройство продается как компаньон. Голосовые системы могут казаться близкими и личными, потому что они ведут диалог, реагируют и присутствуют в моменты, которые ранее принадлежали личным размышлениям. Это может заставить людей раскрывать больше информации, чем они сделали бы в поисковой строке или форме приложения.
OpenAI публично не раскрывала план потребительских устройств, и любые сообщаемые планы могут измениться. Но общий курс развития в отрасли ясен. Крупнейшие компании в области ИИ ищут интерфейсы, которые выходят за рамки вкладки браузера, где помощник может быть присутствовать в течение всего дня, а не вызываться только при необходимости.
Контролирующие органы будут заботиться о согласии, минимизации данных, использовании детьми и о том, соответствуют ли настройки продукта разумным ожиданиям окружающих людей, а не только его зарегистрированного владельца. Семьи и рабочие коллективы будут заботиться о более простом вопросе — могут ли они понять, когда система обращает на них внимание.
Гонка за аппаратным обеспечением вознаградит продукты, которые кажутся волшебными. Долговременными победителями станут те, кто делает свои границы столь же заметными, как и свой интеллект.
Темы: OpenAI, аппаратное обеспечение ИИ, конфиденциальность, амбиентные вычисления