Этика
Дарио Амодеи говорит, что ИИ должен приносить реальные медицинские прорывы, чтобы завоевать доверие общественности
Генеральный директор Anthropic Дариро Амодеи заявляет, что маркетинг не обратит общественное недоверие к ИИ, и что отрасль должна приносить ощутимую пользу, включая значительный прогресс в исследованиях рака, при этом оставаясь честной относительно рисков.
Майкл С.
Генеральный директор Anthropic Дарио Амодеи говорит, что индустрия ИИ не завоюет доверие общественности через более оптимистичную маркетинговую кампанию. Она должна приносить ощутимые преимущества, включая реальные достижения в медицине. Отвечая на критику своих предупреждений о рисках ИИ, Амодеи заявил, что более серьёзная критика заключается в том, что компании, занимающиеся ИИ, пока не выполнили свои крупнейшие обещания по улучшению человеческой жизни.
Его формулировка была намеренно прямой: говорить, что ИИ излечит рак, стало клише, а реальная помощь в излечении рака изменила бы аргумент. Амодеи сообщил, что компания Anthropic увеличивает работу в области биологии и медицины и надеется показать первые результаты в ближайшие месяцы. Он не объявлял о лечении, клиническом результате или конкретном исследовательском достижении.
Это различие должно оставаться в центре истории. Рак — это широкая группа заболеваний, а не одна головоломка, на которую должен ответить чат-бот. Любой заслуживающий доверия вклад проходит через лабораторные эксперименты, клинические испытания, регуляторный контроль и сложную работу по обеспечению доступности лечения для пациентов. Модель может ускорить отдельные части этого процесса, не заменяя его.
Доверие — это результат, а не кампания
Аргумент Амодеи признаёт проблему, которую многие лидеры в области технологий предпочитают рассматривать как сбой коммуникации. Общественный скептицизм связан с спорами о авторских правах, нестабильностью рабочих мест, строительством дата-центов, непрозрачностью продуктов и концентрацией принятия решений в небольшой группе компаний. Лучшая реклама не может разрешить эти материальные конфликты.
Business Insider цитирует исследование Pew которое показывает, что примерно половина американцев испытывает больше беспокойства, чем воодушевления по поводу растущей роли ИИ в повседневной жизни. Беспокойство не является однородным. Люди могут приветствовать систему, которая улучшает постановку диагноза, но отвергать ту, которая оценивает их на работе или имитирует художника без разрешения. Общественное мнение зависит от использования и институции, стоящей за этим, а не от самого термина "ИИ".
Медицинское утверждение, следовательно, создаёт требовательный стандарт подотчётности. Компании, работающие с ИИ, должны определить, что внесли их системы, как были проверены результаты и кому принадлежит возникающая интеллектуальная собственность. Они также должны объяснить, могут ли исследователи вне состоятельных учреждений использовать соответствующие инструменты. Прорыв, который остаётся недоступным из-за высоких цен, может улучшить репутацию лаборатории, не восстанавливая при этом более широкое доверие.
Существует достоверное свидетельство того, что машинное обучение может вносить вклад в науку. AlphaFold изменил темп, с которым исследователи могут предсказывать структуры белков, и был использован в широкой исследовательской среде. Это достижение не ликвидировало экспериментальную биологию. Оно дало ученым мощную новую отправную точку и показало, как выглядит успех, когда вычислительное достижение связано с четко определенной научной проблемой.
Генеративные модели сталкиваются с более сложным путем доказательства. Беглый вывод может скрывать неопределенность, и правдоподобное биологическое объяснение все же может быть неправильным. Системы, используемые в открытии лекарств, требуют оценок, связанных с экспериментальными результатами, а не только с языковыми бенчмарками. Наиболее ценная модель может быть той, которая сужает пространство поиска и фиксирует причины, а не той, которая наиболее уверенно говорит о лечении.
Доставка также означает доступ
Амодеи утверждал, что продвинутый ИИ мог бы сжать десятилетия биологических достижений в более короткий период. Даже если этот прогноз окажется направлении правильно, открытие — это лишь одно узкое место. Возможности клинических испытаний, производство, бюджеты системы здравоохранения и численность регуляторного персонала определяют, станет ли идея лечением. Управление по контролю за продуктами и лекарствами не может одобрить обещание, а больницы не могут применять эталон.
Индустрия ИИ может быть полезна не только в исследованиях моделей. Она может поддерживать подбор участников для клинических испытаний, улучшать документацию, выявлять закономерности побочных эффектов и сокращать административную работу, которая отнимает у врачей время для пациентов. Эти приложения могут показаться менее впечатляющими, чем лечение рака, но измеримые достижения в них могут укрепить доверие, потому что люди напрямую ощущают результаты.
Компаниям также следует избегать использования медицинских амбиций в качестве оправдания вреда в других сферах. Модель, которая способствует исследованиям, не решает вопросов о вытеснении рабочей силы, наблюдении или экологических затратах. Фармацевтические компании могут выпускать эффективные лекарства и оставаться недоверенными из-за цены и доступности. Компании в области ИИ столкнутся с той же оценкой их действий во всех аспектах их деятельности.
Амодей признал, что более широкое недоверие к корпорациям существует задолго до нынешнего бума искусственного интеллекта. Именно поэтому прозрачность имеет значение. Если Anthropic произведёт первые научные признаки, которые он описал, компания должна опубликовать методы, ограничения и независимую оценку, прежде чем превращать их в брендовую кампанию. Чем важнее заявление, тем меньше общественность должна полагаться на компанию, которая его делает.
Заявление генерального директора наиболее убедительно, если его рассматривать как обязательство, а не прогноз. Anthropic просила правительства, клиентов и сообщества принять быстрое развитие, потому что потенциальная выгода огромна. Общественность имеет право требовать доказательств того, что эти выгоды действительно наступают, кто их получает и какие расходы были понесены на этом пути.
Лечение рака никогда не будет событием, происходящим в один день запуска, и ни один ответственный ученый не должен подавать это так. Доверие может вырасти через более спокойную последовательность: гипотеза, которая подтверждается, испытание, которое работает, врач, который экономит время, лечение, доступное пациентам. Если компании, занимающиеся ИИ, хотят завоевать доверие, именно эти этапы имеют значение.
Темы: Дарио Амодеи, Anthropic, исследования рака, общественное доверие