Политика
Индия рассматривает закон об ИИ на основе оценки рисков для систем с высоким уровнем воздействия
Индия рассматривает возможность введения градуированного закона об ИИ, который устанавливал бы более мягкие правила для инструментов с низким уровнем риска и более строгий надзор за системами, используемыми в финансах, здравоохранении, инфраструктуре и других секторах с высокими последствиями.
Майкл С.
Индия движется к закону о ИИ построенному на поэтапных, основанных на рисках правилах, структуре, которая будет рассматривать обычные инструменты повышения производительности совсем иначе, чем системы, используемые в банковской сфере, здравоохранении, критической инфраструктуре и других областях с высоким уровнем воздействия.
С Economic Times сообщил, что официальные лица рассматривают структуру, в которой системы с низким риском, такие как чат-боты, рекомендательные инструменты и офисное программное обеспечение, будут иметь минимальные обязательства, в то время как системы с высоким риском будут подчиняться более строгим требованиям по безопасности, ответственности, проверкам и надзору.
Такой подход отражает направление регулирования ИИ в мире. Правительства понимают, что единый свод правил для всех алгоритмов слишком груб. Настоящий политический вопрос заключается в том, где используется система ИИ, какие решения она влияет и могут ли её ошибки причинить вред людям, рынкам или общественным службам.
Для Индии ставки особенно высоки. Страна хочет поддерживать стартапы в области ИИ, цифровую государственную инфраструктуру, внедрение систем в предприятиях и разработку собственных моделей, а также защищать граждан от непрозрачных систем, которые могут повлиять на кредитоспособность, доступ к здравоохранению, трудоустройство, образование или общественные пособия.
Законотворчество с градацией риска дало бы регуляторам больше гибкости, но также создаёт сложные споры о классификации. Компании будут хотеть, чтобы их продукты рассматривались как низкорисковые. Группы гражданского общества будут утверждать, что на первый взгляд обычные инструменты могут иметь высокое воздействие при масштабном применении. Регуляторам понадобятся критерии, которые будут достаточно ясными для применения и достаточно гибкими, чтобы учитывать новые возможности моделей.
С финансовый сектор вероятно станет одним из первых испытаний. AI-системы, используемые для кредитования, выявления мошенничества, соблюдения нормативных требований, торговли, взыскания долгов и обслуживания клиентов могут влиять на потребителей даже при наличии человека в цикле. Закон, основанный на оценке рисков, должен будет решить, когда надзор применяется к модели, к институту или к процессу принятия окончательного решения.
Здравоохранение поднимает другой набор проблем. Искусственный интеллект может помогать в сортировке пациентов, чтении сканов, суммировании записей и поддержке врачей, но ошибки могут причинить прямой вред. Стране с масштабами Индии необходимы правила, которые улучшают доступ, не позволяя непроверенным системам становиться невидимыми клиническими шлюзами.
Возможно, самым важным проектным решением является способность к исполнению. Принять закон проще, чем создать технические команды, процессы аудита, каналы для жалоб и отраслевых регуляторов, необходимые для его реализации. В Индии есть база талантов для создания такой способности, но потребуется координация между министерствами и регуляторами.
Закон, основанный на оценке рисков, сам по себе не определит будущее ИИ в Индии. Но он будет означать переход от общих принципов к операционному управлению. Следующий вопрос заключается в том, смогут ли правила быть достаточно точными для компаний, чтобы их соблюдать, достаточно сильными, чтобы граждане могли им доверять, и достаточно гибкими для рынка, который меняется каждый квартал.
Темы: Индия, закон об ИИ, регулирование на основе оценки рисков, управление ИИ