Исследование
План науки Белого дома по ИИ переосмысливает федеральные исследования в контексте машинного дополненного открытия
Отчет Белого дома «Наука: Новая золотая эпоха» призывает к созданию исследовательских институтов, ориентированных на ИИ, инфраструктуры для проверок и миссии «Генезис», которая могла бы изменить способы расходования федеральных средств на науку.
Майкл Г ·
С Белый дом опубликовал всеобъемлющий отчет по научной политике, который ставит искусственный интеллект в центр того, как федеральное правительство хочет финансировать исследования, организовывать их, проверять и превращать в национальные возможности. Отчет, Science: A New Golden Age, был опубликован 21 июля Майклом Крациосом, директором Офиса науки и технологий, и рассматривает текущий момент как первый полный пересмотр американской научной деятельности со времен послевоенной работы Ваннавара Буша Science: The Endless Frontier. Его самое важное утверждение заключается в том, что ИИ не должен лишь помогать ученым в рамках существующих учреждений. Он должен способствовать перестройке этих учреждений вокруг более быстрого открытия, более богатых наборов данных, автономных лабораторий и непрерывной верификации.
В отчете упоминается Миссия Genesis как флагманская национальная инициатива по искусственному интеллекту для науки, призывающая к созданию специализированных научных фундаментальных моделей, высокоценных наборов данных, инфраструктуры проверки на базе ИИ и автономных лабораторий. Это более широкая амбиция, чем просто покупка дополнительной вычислительной мощности для существующих грантовых программ. Она представляется исследование как систему, в которой инструменты, симуляции, наборы данных, модели и средства проверки работают вместе, чтобы генерировать и тестировать гипотезы в масштабах, недоступных для организаций, состоящих только из людей. Обещание заключается в более быстром открытии лекарств, новых материалах, чистых энергетических системах, более сильном производстве, более надежной науке и исследовательской базе, которая может конкурировать с государственно управляемым технологическим прорывом Китая.
Политическое преимущество заключается в том, что план может перенаправить федеральные исследовательские приоритеты с привычных университетских каналов на отдельных исследователей, программы по миссии, региональные кластеры и инфраструктуру, ориентированную на ИИ. Wall Street Journal сообщил, что администрация рассматривает, как примерно 200 миллиардов долларов в федеральное исследовательское финансирование распределяется с большим акцентом на ИИ и прямую поддержку исследователей. Университеты воспримут это как предупреждение. Федеральные гранты давно поддерживают лаборатории, аспирантов и институциональный потенциал. Переход к финансированию миссий и стипендий может вознаграждать быстроту и прикладные результаты, но он также может ослабить более медленную экосистему фундаментальной науки, которая создала многие инструменты, от которых сейчас зависит ИИ.
Наиболее технически серьёзной частью отчета является его акцент на верификацию. В документе предупреждается, что ИИ может облегчить создание правдоподобных научных утверждений быстрее, чем учреждения успевают их проверять. Утверждается, что генератор науки требует верификатора, равного по строгости и масштабу, включая системы, которые могут анализировать представленные статьи, воссоздавать вычислительные среды, выполнять анализы в изолированной среде и сравнивать результаты с заявленными. Это трезвое замечание. Наука с помощью ИИ потерпит неудачу, если она создаст поток впечатляюще выглядящих, но слабо проверенных статей, синтетических данных и хрупких гипотез.
Повестка дня проверки отчёта также признаёт, что наука сталкивается с проблемой пропускной способности. Журналы, рецензенты, комитеты по грантам и исследования по воспроизводимости уже перегружены объемом современной науки. Искусственный интеллект может усугубить это, увеличивая количество подаваемых работ и снижая стоимость создания отлаженных заявлений. Но та же технология может помочь в аудите кода, повторном проведении экспериментов, проверке статистических утверждений, отслеживании наборов данных и выявлении работы, заслуживающей внимания человека. Будущее научной институции может требовать как человеческого суждения, так и масштабной машинной проверки, с установлением стандартов для обмена данными, пакетов для воспроизводимости, вычислительной воспроизводимостии прозрачной методологии.
Под риторикой скрывается настоящая инженерная задача. Домен-специфические научные фундаментальные модели нельзя построить только на основе общедоступного веб-текста. Им нужны отобранные экспериментальные данные, журналы приборов, результаты симуляций, лабораторные протоколы, отрицательные результаты и метаданные, которые часто находятся в несовместимых системах. Автономным лабораториям нужны робототехника, датчики, системы безопасности, программное обеспечение для планирования и человеческий контроль. Инструменты верификации требуют стандартизированных сред и стимулов, которые заставляют исследователей публиковать достаточно деталей, чтобы машины могли повторить их работу. Ничто из этого не решается политическим отчетом. Для этого требуются закупки, стандарты, дисциплина в финансировании и долгосрочное обслуживание.
Последствия для рабочей силы не менее значительны. В отчете призывают к практическому техническому обучению, стажировкам и региональным инновационным кластерам, связанным с передовым производством. Это предполагает более широкое определение научного труда, где техники, инженеры данных, специалисты по автоматизации лабораторий, обслуживающие программное обеспечение и эксперты в своих областях становятся частью системы открытий. При правильной реализации это может открыть научные карьеры за пределами узкой академической лестницы. Если внедрять это плохо, это может превратить исследования в административно-ориентированную промышленную программу, где местные учреждения будут следовать федеральным приоритетам без стабильной поддержки независимого исследования.
Политический риск заключается в чрезмерной корректировке. Наука в США стала мощной отчасти потому, что финансировала любопытство, инициированное исследователями, а не только технологические гонки, ориентированные на миссии. ИИ может ускорить открытие, но также может поощрять краткосрочные показатели, автоматизированную публикацию и проекты, модные в политическом плане. Поэтому серьезная политика в области науки и ИИ должна защищать разнообразие методов, институтов и вопросов. Она должна финансировать проверку так же щедро, как и создание, поддерживать университеты даже во время их реформирования и обеспечивать, чтобы инфраструктура данных была достаточно открытой для независимых исследователей, а не закрытой в нескольких национальных или корпоративных платформах.
Фраза «ИИ для науки» может звучать абстрактно, но требования к инфраструктуре конкретны. Научные фундаментальные модели нуждаются в надежных наборах данных, инструментах, способных передавать пригодные для использования измерения, доступе к вычислительным ресурсам, экспертах в своей области и методах оценки, которые выявляют ложные открытия до того, как они станут опубликованными утверждениями. Модель для материаловедения не полезна только потому, что она предсказывает кандидатов. Она становится полезной, когда лаборатории могут синтезировать этих кандидатов, инструменты могут их тестировать, а независимые команды могут воспроизвести результаты. Поэтому акцент отчета Белого дома на верификации не является декоративным. Это та часть, которая решает, станет ли ускорение знаниями или шумом.
План также вызывает вопросы о том, кто будет иметь доступ к новой инфраструктуре. Если федеральные системы ИИ для науки будут создаваться главным образом на базе национальных лабораторий и элитных университетов, это может увеличить разрыв между хорошо финансируемыми учреждениями и всеми остальными. Если же они будут созданы с использованием общих наборов данных, кредитов на облачные вычисления, стипендий и региональных научно-исследовательских центров, это может расширить участие. Формулировки в докладе о поддержке отдельных ученых указывают на более распределённую модель, но механика бюджета будет иметь значение. Учёному, не имеющему грантового персонала, специалистов по вычислениям или возможностей институционального лоббирования, всё равно нужен практический путь подключения к системе.
Под научным языком скрывается аспект национальной безопасности. Открытия с использованием ИИ влияют на фармацевтику, накопители энергии, полупроводники, аэрокосмическую промышленность, производство, моделирование климата и технологии, смежные с обороной. Беспокойство Вашингтона заключается не только в том, что американские ученые публикуются быстрее. Дело в том, что страны, способные объединять модели, вычислительные мощности, лаборатории и промышленное внедрение, могут превращать открытия в стратегическое преимущество. Вот почему отчет связывает политику исследований с национальными возможностями. Та же модель, которая предлагает лучший катализатор или материал для батареи, может повлиять на цепочки поставок, промышленную конкурентоспособность и боевую готовность.
Проблема заключается в том, чтобы избежать узкого менталитета гонки за быстрым внедрением. У науки есть свои способы терпеть неудачи. Модели могут переобучаться на исторических данных, вызывать иллюзии механизмов, воспроизводить предвзятую литературу, игнорировать отрицательные результаты или оптимизировать измеримые показатели, которые не применимы в реальном мире. Автономные лаборатории могут проводить множество экспериментов, но они также могут быстро расходовать ресурсы, если стратегия поиска ошибочна. Государственная программа, которая ценит скорость без эпистемической дисциплины, может умножать слабые утверждения. Именно поэтому рецензирование, воспроизводимость и экспертные знания в своей области остаются центральными даже в исследовательской среде, основанной на ИИ.
Права на данные станут еще одним практическим препятствием. Научные данные часто поступают из работы, финансируемой федеральными средствами, частной промышленности, больниц, национальных лабораторий, университетов и международных сотрудничеств. Часть данных является конфиденциальной, принадлежащей частной собственности, контролируемой экспортом или связанной с участниками исследований. Программы использования ИИ для науки не могут просто объединить все данные в одну модель без управления. Им потребуются трасты данных, средства контроля доступа, меры защиты конфиденциальности, стандартные лицензии и стимулы для исследователей делиться как отрицательными, так и положительными результатами. Качество моделей будет зависеть от того, насколько эффективно работают эти институциональные соглашения.
Распределение вычислительных ресурсов также будет политически напряжённым. Передовые тренировочные запуски и крупные научные симуляции дорогие, а общественные ресурсы ограничены. Если ИИ для науки станет национальной миссией, агентствам придётся решить, какие области получат приоритет, какие проекты получат доступ к национальным вычислительным мощностям и сколько мощности останется доступной для меньших исследовательских работ. Эти решения будут определять направление исследований. Политика, которая заявляет о ускорении открытий, всё же может сужать возможности открытий, если доступ сосредоточен вокруг небольшого числа поддерживаемых федерально областей.
В отчете о концепции автономной лаборатории также поднимаются вопросы безопасности и ответственности. Лаборатория, использующая робототехнику и модели для планирования экспериментов, может работать быстрее, но химические, биологические, энергетические и материаловедческие работы могут представлять физическую опасность. Человеческий контроль не может сводиться к окончательному утверждению после того, как автоматизированная система уже спланировала рискованную последовательность действий. Ограничения безопасности, журналы аудита, аварийные остановки и наблюдательные советы должны быть встроены в рабочий процесс лаборатории. ИИ может предлагать эксперименты, но учреждения остаются ответственными за то, что эти эксперименты делают в физическом мире.
Существует также проблема публикационной системы. Если ИИ-инструменты помогают генерировать гипотезы, запускать симуляции, подготавливать рукописи и проверять результаты, журналам потребуются более ясные стандарты раскрытия информации. Рецензерам может понадобиться доступ к коду, подсказкам, версиям моделей, наборам данных и автоматизированным журналам лаборатории. Это большая нагрузка по сравнению с просто чтением статьи. Положительным моментом является то, что исследовательские артефакты в машинно-читаемом виде могут облегчить повторение исследований. Отрицательная сторона заключается в том, что журналам и рецензентам с ограниченными ресурсами может быть сложно проверять все более сложные работы с поддержкой ИИ без новой инфраструктуры.
Формулировка администрации также столкнется с партийной критикой. Федеральная политика в области науки редко бывает свободной от политических приоритетов, и значительное перераспределение финансирования исследований в пользу ИИ создаст победителей и проигравших. Сторонники будут утверждать, что Соединенным Штатам необходимы скорость и сосредоточенность для конкуренции. Критики будут задаваться вопросом, ослабляет ли план университетские исследования, благоприятствует ли он предприятиям с политическими связями или преувеличивает возможности ИИ. Достоверность программы Золотого века будет зависеть от прозрачных критериев, экспертной оценки там, где это уместно, и видимых результатов, которые выдерживают независимую проверку.
План также может изменить государственно-частные партнерства. Лаборатории ИИ и облачные компании будут заинтересованы в федеральных научно-исследовательских заказчиках, сотрудничестве с национальными лабораториями и доступе к ценным научным данным. Правительство будет нуждаться в скорости, экспертизе и инфраструктуре, которую самостоятельно сложно построить. Такая сделка может быть эффективной, но необходимы меры предосторожности. Государственные исследования не должны становиться захваченным каналом распределения проприетарных систем, а частные партнеры не должны получать привилегированный доступ к государственным данным без явной общественной выгоды. Условия контрактов, права на данные и правила публикации будут иметь такое же значение, как и технические амбиции.
Измерить успех будет сложно. Большее количество гипотез, созданных с помощью ИИ, больше автоматизированных экспериментов или больше опубликованных статей недостаточно. Серьезная программа должна отслеживать проверенные открытия, воспроизведенные результаты, сэкономленное время в конкретных исследовательских процессах, новые опубликованные наборы данных, инструменты, используемые внешними учеными, и то, получили ли небольшие учреждения доступ к возможностям, которых им раньше не хватало. Без этих показателей язык Эпохи Золотого Века может стать всего лишь маркетинговым инструментом для грантов, которые и так были бы профинансированы. Для ИИ в науке необходимы доказательства ускорения и надежности.
В отчёте также отмечается давление на агентства с целью модернизации их собственной технической инфраструктуры. Многие федеральные исследовательские системы по-прежнему зависят от устаревших баз данных, разрозненных порталов грантов, несогласованных метаданных и медленных процессов закупок. Наука, основанная на ИИ, не может функционировать на административных системах, которые не могут обмениваться чистыми данными или поддерживать воспроизводимые рабочие процессы. Прежде чем автономные лаборатории и научные фундаментальные модели станут обыденностью, агентствам могут понадобиться менее престижные обновления: стандарты данных, защищённые API, системы идентификации, политики доступа к облакам и персонал, способный поддерживать совместное программное обеспечение в течение многих лет.
Проблема публичной коммуникации будет значительной. Национальная инициатива в области науки об ИИ может звучать как обещание, что машины будут открывать лекарства и материалы по команде. Более честное сообщение заключается в том, что ИИ может сократить отдельные части исследовательского цикла, одновременно делая верификацию более важной. Политические лидеры захотят видеть заметные прорывы, но научное сообщество будет оценивать программу по тому, улучшает ли она методы, общую инфраструктуру и воспроизводимость. Самая сильная версия отчета — это не чудо-машина. Это более дисциплинированная исследовательская система с лучшими инструментами.
Это различие важно, потому что научная легитимность медленно зарабатывается и легко разрушается. Если первая волна финансирования ИИ для науки приведёт к преувеличенным заявлениям, несопоставимым результатам или инструментам, доступным лишь нескольким привилегированным учреждениям, реакция будет серьёзной. Если же она принесёт совместно используемые наборы данных, надёжные системы проверки и открытия, которые независимые команды смогут подтвердить, политика может пережить администрацию, которая её запустила. Белый дом позиционировал ИИ как способ обновления американской науки; это обновление будет оцениваться на основе культуры доказательств, которую оно создаёт.
Федеральным агентствам также придется решить, какая часть стека ИИ для науки должна быть общедоступной. Частные лаборатории и облачные компании обладают многими передовыми возможностями. Они могут предоставлять модели, вычисления, инструменты и скорость развертывания. Но научная политика не может полностью опираться на проприетарные системы, которые исследователи не могут проверять, архивировать или воспроизводить. Научные исследования, финансируемые за счет государственных средств, нуждаются в долговременном доступе, правах на данные, прозрачности моделей там, где это возможно, и условиях закупок, которые сохраняют научную независимость. Правительству может потребоваться смешанный подход: коммерческие возможности там, где это полезно, открытые модели там, где это необходимо, и общественная инфраструктура для наиболее чувствительных или фундаментальных работ.
Университеты будут воспринимать этот отчет как одновременно возможность и угрозу. Они могут получить новое финансирование для лабораторий, ориентированных на ИИ, научных наборов данных и междисциплинарного обучения. Они также могут потерять влияние, если федеральная политика сместится в сторону стипендий, миссий и прямой поддержки исследователей за пределами традиционных структур грантов. Основной вопрос заключается в том, сможет ли существующая университетская система адаптироваться достаточно быстро. Многие учреждения до сих пор разделяют департаменты, инфраструктуру данных, офисы соблюдения норм и управление грантами таким образом, что междисциплинарная работа с ИИ протекает медленно. Федеральное правительство может стимулировать изменения, но университетам также придется перестраивать стимулы внутри лабораторий и систем бессрочного контракта.
Отправной точкой доклада является послевоенное видение Ванневера Буша, что многозначительно, потому что это раннее соглашение создало десятилетия государственных инвестиций в фундаментальные исследования. Переосмысление его в контексте ИИ может стать историческим, но только если новая стратегия сохранит главный урок старой: фундаментальная наука часто приносит плоды способами, которые политики не могут предсказать в начале. ИИ может сделать открытие более целенаправленным, но чрезмерная ориентация исследований на немедленные национальные приоритеты может вытеснить исследования, основанные на любопытстве. Здоровая научная система нуждается и в миссиях, и в открытых исследованиях, потому что следующий трансформационный инструмент может появиться из вопроса, который пока не выглядит коммерчески или стратегически актуальным.
Последствия для труда также реальны. Исследования с использованием ИИ изменят то, чем ежедневно занимаются аспиранты, техники, постдоки и ведущие исследователи. Некоторые рутинные обзоры литературы, кодирование, моделирование и планирование экспериментов могут стать быстрее. Но исследователям также потребуются новые навыки в курировании данных, оценке моделей, контроле автоматизации и интерпретации гипотез, созданных машиной. Обучающие программы, рассматривающие ИИ как дополнение к программному обеспечению, будут недостаточны. Научной рабочей силе необходимо будет понимать, когда доверять модели, когда ее ставить под сомнение и как разрабатывать эксперименты, которые выявляют ее ошибки.
Отчет Белого дома лучше воспринимать как стартовый сигнал, а не как план действий. В нем выявлена правильная линия разлома: ИИ достаточно мощный, чтобы перестроить науку, но только если страна создаст институты, которые смогут тестировать, доверять и распространять полученные знания. Следующее испытание будет на уровне планов действий агентств, бюджетов, правил предоставления грантов и деталей закупок. ИИ может изменить скорость открытий. Будет ли он повышать надежность и общественную ценность открытий, будет зависеть от менее эффектной работы со стандартами, воспроизводимостью, правами на данные и управлением.
Темы: Белый дом, ИИ для науки, федеральные исследования, миссия «Генезис»