Исследование
План биоустойчивости DeepMind показывает, почему биологическому ИИ нужна не только политика безопасности
Google DeepMind изложил подход к биоустойчивости для биологических исследований с применением ИИ, утверждая, что научный потенциал и риск злоупотребления необходимо управлять через возможности, доступ и меры защиты в реальном мире.
Майкл Г ·
Google DeepMind изложил подход к биоустойчивости по мере того, как ИИ-системы становятся более полезными в биологических исследованиях. В своем заявлении от 16 июля он утверждает, что достижения в таких областях, как структура белков, геномика и разработка лекарств, могут улучшить научную работу, одновременно требуя мер предосторожности в отношении способов оценки и доступа к мощным биологическим возможностям.
Важный момент заключается в том, что биологический риск не существует исключительно в модели. Он возникает, когда модель связана с экспериментальными знаниями, лабораторным оборудованием, сервисами синтеза и человеческими намерениями. Политика, которая только спрашивает, может ли модель ответить на чувствительный вопрос, упускает цепочку между информацией и действием. Серьезная программа безопасности должна учитывать пользователей, инструменты, поставщиков и мониторинг вокруг этой цепочки.
Это не делает широкий научный доступ ошибкой. Исследователи используют вычислительные инструменты, чтобы понять болезни, определить соединения и разрабатывать эксперименты, которые в противном случае заняли бы гораздо больше времени. Задача заключается в том, чтобы создать градуированные меры контроля, которые не делают безопасную работу невозможной, но при этом замедляют или обнаруживают запросы, которые сочетают чувствительные биологические данные с правдоподобным путем к злоупотреблению.
Формулировка DeepMind имеет значение, потому что она связывает безопасность с научной практикой, а не представляет её как отдельный шаг соответствия. Оценка требует экспертов в соответствующей области. Правила доступа должны учитывать различных пользователей и контексты. Подготовка к инцидентам должна быть проведена до того, как вызывающая беспокойство возможность станет доступна в публичном продукте. Это сложные операционные обязательства, а не просто абзац в карточке модели.
Наиболее точной мерой биоустойчивости будет то, смогут ли лаборатории показать, что их работа остаётся полезной при соблюдении мер предосторожности. Если меры контроля понятны, соразмерны и протестированы совместно с исследователями, они могут способствовать доверию к науке с поддержкой ИИ. Если меры контроля расплывчаты или применяются только после публикации, они рискуют стать ещё одним источником неопределённости для людей, проводящих эксперименты.
Темы: Google DeepMind, биорезилиентность, безопасность ИИ, биология