Две из самых влиятельных компаний в области искусственного интеллекта сделали для техиндустрии нечто редкое: они попросили правительство отрегулировать отрасль, в которой сами не работают. OpenAI и Anthropic совместно подписали письмо с призывом к Конгрессу США ввести строгие новые правила по регулированию синтетической ДНК с помощью ИИ — не для ограничения собственных моделей, а чтобы помешать этим моделям помочь кому‑то синтезировать биологическое оружие.
Этот шаг выделяется по простой причине. Сэм Альтман и Дарио Амодеи возглавляют компании, которые яростно конкурируют за таланты, вычислительные ресурсы, капитал и клиентов. Тем не менее они подписали одно и то же письмо, и это важно, потому что показывает, насколько серьезно обе компании относятся к риску. На практике их согласие является сигналом, что угроза вышла за рамки теории.
Summary
Лидеры ИИ призывают Конгресс регулировать продажи синтетической ДНК
Письмо фокусируется на цепочке поставок синтетической ДНК — коммерческой сети поставщиков, которые производят кастомные генетические последовательности для исследований, медицины и промышленной биологии. Сейчас любой, у кого есть достаточно денег и почтовый адрес, может заказать синтезированную ДНК у растущего числа провайдеров. Тем временем процесс становится все более автоматизированным и доступным по цене.
OpenAI и Anthropic беспокоит то, что произойдет, когда в этот рабочий процесс войдут мощные языковые модели. ИИ может помочь пользователю понять сложные биологические процессы, устранить проблемы при синтезе, оценить опасные патогены и выявить последовательности с конкретными свойствами. Из‑за этого сочетание доступного ИИ и доступного синтеза ДНК создает путь, который в значимой степени не существовал пять лет назад.
В письме Конгресс не просят ограничивать сами модели ИИ. Вместо этого оно нацелено на физическую «узкую горлышко»: момент, когда заказ на синтез покидает предприятие поставщика.
Предлагаемые правила для поставщиков синтеза ДНК и РНК
Изложенная в письме рамка конкретна и ориентирована на практику. Это не общий призыв к «большему надзору». Вместо этого она устанавливает три конкретных требования к поставщикам синтеза ДНК и РНК.
Обязательная проверка по базам данных опасных последовательностей
Каждый заказ на синтез должен быть проверен по установленным базам данных известных опасных последовательностей до его выполнения. По сути, поставщики будут прогонять каждую запрошенную последовательность через биозащитный фильтр, чтобы проверить, не напоминает ли она или не совпадает ли с генетическим материалом, связанным с отобранными агентами, токсинами или другими биологическими угрозами.
Верификация клиентов для заказов на синтез ДНК
Верификация клиентов перейдет из разряда опциональной в обязательную. В настоящее время поставщики синтеза сильно различаются по тому, насколько тщательно они проверяют, кто размещает заказ. В рамках предлагаемой системы соблюдения требований при синтезе ДНК этот процесс проверки будет стандартизирован и обязателен по всей отрасли.
Комплексная оценка рисков перед отправкой
Перед отправкой любого заказа поставщики должны будут проводить комплексную оценку рисков на уровне заказа. Это означает рассмотрение не только самой последовательности, но и контекста запроса, включая то, кто заказывает, заявленную цель и поднимает ли полный набор деталей сигналы, требующие дополнительной проверки или отказа.
В совокупности эти меры переведут индустрию синтеза ДНК от в значительной степени саморегулируемых практик к системе соблюдения требований, предписанной на федеральном уровне.
Почему OpenAI и Anthropic видят риск биологического оружия в ИИ
Толчком к призыву к регулированию послужили не расплывчатые опасения. OpenAI с начала 2024 года проводит внутренние red-teaming‑упражнения, чтобы проверить, могут ли ее крупные языковые модели оказать значимую помощь кому‑то, оценивающему биологические угрозы. Результаты оказались достаточно тревожными, чтобы убедить компанию, что добровольных отраслевых норм больше недостаточно.
Этот момент важен, потому что red-teaming предназначен для стресс‑тестирования системы в условиях противодействия. Иными словами, он задается вопросом, как может выглядеть наихудшее злоупотребление. Собственные оценки OpenAI выявили правдоподобные сценарии риска биологического оружия, и эти выводы помогли сформировать аргументацию в пользу регулирования.
Дарио Амодеи также открыто говорит о биологических рисках от ИИ. Исследования Anthropic указали на потенциал крупных языковых моделей оказывать значимое «повышение возможностей» — биозащитный термин для обозначения помощи, которая помогает кому‑то приблизиться к опасной способности, недостижимой для него в одиночку, — людям, пытающимся ориентироваться в сложных биологических процессах. В результате совместная подпись Амодеи и Сэма Альтмана под одним документом отражает редкий момент отраслевого консенсуса.
Такое согласование между конкурентами посылает Конгрессу сигнал. Когда две ведущие лаборатории ИИ соглашаются, что угроза достаточно серьезна, чтобы требовать вмешательства государства, аргументы в пользу бездействия слабеют.
Что регулирование синтетической ДНК с помощью ИИ может означать для биотехнологических рынков
Если предложение будет принято, оно может одновременно изменить сразу несколько рынков, хотя и по‑разному.
Для компаний по синтезу ДНК системы проверки, инструменты верификации клиентов и оценка рисков на уровне заказов повлекут реальные затраты. Мелким поставщикам с низкой маржой может быть особенно сложно выдержать такие требования по соблюдению норм. В результате рынок может консолидироваться: более крупные фирмы, у которых уже есть инфраструктура комплаенса, получат преимущество над мелкими конкурентами. Новым участникам также придется преодолевать более высокие барьеры входа.
В то же время предложение может создать попутный ветер для другой группы компаний. Фирмы в области биозащитных технологий, особенно те, кто создает платформы анализа последовательностей, базы данных биологических угроз и инструменты скрининга, могут столкнуться с ростом спроса, если федеральные правила создадут формальную потребность в их продуктах. В этом смысле обязательное соблюдение требований при синтезе ДНК может открыть новый рынок для инвестиций в биозащитные технологии.
Картина сложнее для децентрализованной науки. Несколько DeSci‑проектов на блокчейне находятся на пересечении ИИ и биологических исследований, предлагая открытые платформы для обмена геномными данными, поиска лекарств и инструментов синтетической биологии. Однако обязательный скрининг на уровне синтеза ДНК может создать трение для рабочих процессов открытого доступа, которые зависят от легкого перехода между этапами исследований. Проектам, построенным вокруг бесразрешительного доступа к биологическим данным, возможно, придется переработать архитектуру с учетом контрольных точек комплаенса, к которым они изначально не были готовы.
Более широкий политический фон также имеет значение. Этот шаг вписывается в общую волну политической активности вокруг ИИ в 2026 году, связанную с надзором за технологиями двойного назначения. Пересечение синтетической биологии и ИИ делает ее одним из самых наглядных примеров риска двойного назначения: технологий, которые необходимы для легитимной науки, но потенциально катастрофичны в неправильных руках. В этом контексте письмо OpenAI–Anthropic является частью более широкой дискуссии о том, где должна проходить граница.
То, будет ли Конгресс действовать быстро, медленно или вовсе не предпримет шагов, определит, станет ли письмо вехой в политике или исторической сноской. Инфраструктура скрининга, системы верификации и протоколы оценки рисков уже существуют в отдельных частях отрасли. Открытым остается вопрос, станут ли они юридически обязательными, повсеместно применяемыми и последовательно исполняемыми.
FAQ
Почему OpenAI и Anthropic просят о регулировании продаж синтетической ДНК?
Обе компании утверждают, что модели ИИ могут оказывать значимую помощь людям, оценивающим и потенциально разрабатывающим биологические угрозы. В сочетании с доступностью коммерческого синтеза ДНК, по их мнению, это создает серьезный риск для биобезопасности, с которым добровольные отраслевые нормы не могут справиться самостоятельно. Их письмо Конгрессу США призывает к федеральным мерам в отношении цепочки поставок синтеза.
Какие конкретные регуляторные меры предлагаются в письме?
В письме предлагаются три основных требования: обязательный скрининг всех заказов на синтез ДНК и РНК по базам данных известных опасных последовательностей, обязательная верификация клиентов для каждого заказа на синтез и комплексная оценка рисков для каждого заказа перед его отправкой.
Как ИИ продемонстрировал потенциальные риски в содействии разработке биологического оружия?
OpenAI заявила, что в начале 2024 года начала внутренние red-teaming‑упражнения, чтобы проверить, могут ли ее крупные языковые модели оказать значимую помощь кому‑то, оценивающему биологические угрозы. Эти упражнения дали достаточно серьезные результаты, чтобы подтолкнуть компанию к призыву к регулированию, а не полагаться только на саморегулирование.
Какое влияние регулирование может оказать на биотехнологические компании и технологические рынки?
Издержки на соблюдение требований могут подтолкнуть к консолидации среди поставщиков синтеза ДНК, особенно среди мелких компаний. Между тем фирмы, специализирующиеся на анализе последовательностей, системах скрининга и базах данных биологических угроз, могут выиграть, если федеральные правила создадут более широкий спрос на их инструменты.
Как эти правила могут повлиять на проекты децентрализованной науки, связанные с синтетической биологией?
DeSci‑проекты на блокчейне, которые полагаются на открытый обмен биологическими данными и инструменты синтетической биологии, могут столкнуться с новым трением. Обязательный скрининг на уровне синтеза ДНК может вынудить их добавить шаги по соблюдению требований в рабочие процессы, изначально спроектированные вокруг открытого, бесразрешительного доступа.
