В лаборатории Стэнфордского университета исследователи наблюдали, как по чашке Петри, заполненной бактериями, распространяются прозрачные пятна — несомненный признак того, что нечто, что они создали целиком внутри компьютера, только что ожило. Организмы, уничтожавшие эти бактерии, не были взяты из природы. Это были вирусы, спроектированные ИИ, сгенерированные вычислительной моделью под названием Evo и затем химически собранные с нуля, и результаты теперь поднимают вопросы, выходящие далеко за пределы одной подземной лаборатории Стэнфорда.
Summary
Ключевые выводы
- Evo, модель ИИ, разработанная Стэнфордским университетом и Институтом Arc, предложила 700 000 возможных вирусных геномов, из которых 285 были химически синтезированы, а 16 дали вирусы, способные к репликации и уничтожению бактерий.
- Evo сначала обучали примерно на девяти триллионах нуклеотидов из миллионов животных, растений, микробов и вирусов, а затем специализировали на 11 генах бактериофага Phi X-174 и около 15 000 родственных геномов.
- Вирусы, созданные ИИ, оказались столь же устойчивыми, как природные, и некоторые реплицировались быстрее, чем сам природный фаг Phi X-174.
- Действующие правила биобезопасности Национальных институтов здравоохранения США (NIH) запрещают эксперименты, делающие патогены более опасными, но они не охватывают явно чисто вычислительное проектирование вирусов, если только оно не связано с «объектом, вызывающим обеспокоенность».
- Эксперты, включая Моритца Ханке из Центра безопасности здравоохранения Университета Джонса Хопкинса, предупреждают о растущем разрыве между тем, что ИИ уже способен делать, и правилами, призванными это контролировать.
Модель ИИ Evo проектирует новые вирусные геномы для бактерий
Evo работает как генетическая версия большой языковой модели, предсказывая последовательности ДНК так же, как ChatGPT предсказывает следующее слово в предложении. Но вместо языка она изучала закономерности, записанные в самом генетическом коде жизни. Команда, стоящая за проектом и базирующаяся в Стэнфорде и Институте Arc, решила проверить, может ли такое распознавание шаблонов зайти дальше, чем проектирование отдельных белков или антибиотиков, — и фактически создать работающий вирус.
Как обучали Evo
Обучение модели проходило в два этапа. Первоначальное обучение Evo опиралось примерно на девять триллионов нуклеотидов, полученных из миллионов организмов из царств животных, растений, микробов и вирусов, впитывая закономерности, проходящие через всё древо жизни. Лишь после этой широкой базы последовал второй, специализированный этап обучения, на этот раз узко сфокусированный на 11 генах бактериофага Phi X-174 и примерно 15 000 его ближайших родственников. Для Сэмюэла Кинга, докторанта Стэнфорда и соавтора исследования, такое послойное обучение казалось очевидным ходом. «Это просто казалось очевидным следующим шагом», — сказал он.
От 700 000 кандидатов к 16 рабочим вирусам
После обучения Evo предложила 700 000 возможных вирусных геномов. Исследователи сузили этот огромный пул до наиболее перспективных кандидатов и химически синтезировали 285 последовательностей в виде ДНК, которые затем ввели в бактерии, чтобы посмотреть, что произойдет. Шестнадцать из этих последовательностей дали вирусы, способные к репликации — и, что критически важно, способные убивать целевые бактерии E. coli в процессе. По сообщениям, Кинг и его коллеги поняли, что фаги работают, ранним утром, наблюдая, как на чашках Петри появляются прозрачные пятна. «Мы начали видеть эти прозрачные пятна, и это было невероятно захватывающе», — сказал Кинг. Когда расширенная команда увидела результаты, по словам доцента Стэнфорда Брайана Хи, «комната спонтанно разразилась аплодисментами».
Как вирусы, спроектированные ИИ, показали себя в лаборатории
16 вирусов, получившихся в результате эксперимента, не были хрупкими лабораторными курьезами. Они соответствовали эффективности природных вирусов, а в некоторых случаях превосходили их — результат, который удивил даже исследователей, не участвовавших в работе.
Устойчивость, скорость и научные вехи
Спроектированные вирусы оказались столь же устойчивыми, как природные, и некоторые реплицировались даже быстрее, чем сам Phi X-174. «Это не просто хилые версии уже существующих вещей», — сказал Оливер Крук, химик-белковик из Оксфордского университета, не участвовавший в исследовании. Патрик Цай, синтетический биолог из Манчестерского университета, назвал работу «важной вехой», добавив, что «значение выходит далеко за пределы фагов — это говорит о том, что языковые модели геномов начинают усваивать принципы дизайна, закодированные эволюцией, открывая дверь к написанию геномов с помощью ИИ». Марк Гюэль из лаборатории синтетической биологии Университета Помпеу Фабра описал это как «очень значимый поворотный момент», потому что впервые «мы начинаем проектировать биологию на компьютере».
Тем не менее Крук осторожно сдерживал ожидания. ИИ не изобрел ничего принципиально нового — получившиеся вирусы очень похожи на природные виды и опираются на ту же базовую биологию, а не на какой-то новый механизм. Останется ли Evo столь же эффективной с другими семействами вирусов, пока открытый вопрос. Если подход действительно обобщается, сказал Крук, он может дать по-настоящему полезные инструменты для медицины и биотехнологий: «Многие наши научные достижения опираются на вирусы как на технологию». Для контекста: геном фага, с которым работала команда, составляет около 5400 пар оснований, по сравнению с примерно 500 000 пар оснований в наименьшей живой клетке и около трех миллиардов в человеческом геноме — разрыв, который, по словам Хи, делает проектирование простого живого организма «вероятно очень трудоемким, но не невозможным» и чем-то, к чему команда «определенно заинтересована двигаться».
Пробелы в биобезопасности вокруг вычислительного проектирования вирусов
Прорыв произошел в момент, когда политика США в области биобезопасности еще не успела за тем, что модели ИИ уже могут генерировать на экране. Это несоответствие находится в центре дискуссии вокруг синтеза вирусных геномов, направляемого искусственным интеллектом.
Чего не охватывают правила биобезопасности США
В конце июля Национальные институты здравоохранения представили политику в отношении высокорискованных исследований в области наук о жизни, которая запрещает создание более опасных вариантов патогенов. Однако работа, проводимая полностью вычислительными методами — проектирование вирусной ДНК на компьютере без ее физического создания, — не подпадает под действие правил «если только она не связана с объектом, вызывающим обеспокоенность», согласно ведомству. Провести это различие легко в случае, например, с оспой, которая явно классифицируется как опасная. Гораздо сложнее, когда речь идет о вирусе, полученном из модели ИИ, а не из списка известных патогенов, и именно такая неопределенность сейчас формирует споры о регулировании биобезопасности ИИ, с которыми политика с трудом поспевает.
Меры предосторожности и предупреждения экспертов
Команда Стэнфорда и Института Arc не стала ждать, пока регуляторы догонят. На протяжении всего этапа обучения Evo не подвергали воздействию какой-либо информации о вирусах, заражающих людей, или связанных с ними патогенных организмов, поражающих животных, растения или грибы — то есть модель в принципе не может генерировать такие генетические последовательности. «Нашей целью было просто проявить максимальную осторожность», — сказал Брайан Хи. Моритц Ханке из Центра безопасности здравоохранения Университета Джонса Хопкинса назвал это решение «вполне похвальным», особенно учитывая, что никаких официальных правил, требующих этого, не было: «Потому что они не получают никаких указаний ниоткуда о том, что им следует делать».
Ханке и Томас Инглсби, также из Университета Джонса Хопкинса, пошли дальше в комментарии, опубликованном вместе с исследованием в журнале Science, предупредив, что результаты поднимают «неотложные вопросы биобезопасности и биозащиты». Настоящая проблема, по их мнению, не в том, будет ли существовать генеративное проектирование вирусных геномов в будущем — оно уже очевидно существует, — а в том, можно ли его использовать, не «создавая условий для серьезного вреда». Ханке сформулировал опасения предельно прямо: «Каков риск того, чего я никогда раньше не видел?» — спросил он, описывая «огромный разрыв» между тем, как быстро движется наука, и тем, как медленно следуют за ней защитные барьеры. Его наихудший сценарий легко представить: «Вы могли бы сказать: “Эй, геномная языковая модель, сделай мне геном вируса гриппа, модифицированный так, чтобы быть более заразным или более смертоносным”».
Почему это важно: тот же вычислительный «ярлык», который позволил Evo спроектировать 16 рабочих бактериофагов за считанные месяцы, используя девять триллионов нуклеотидов обучающих данных и целенаправленный дополнительный этап на Phi X-174, является методом общего назначения. Ничто в базовой технике не ограничивает ее безвредными убийцами бактерий. Именно на этот разрыв указывают Ханке и Инглсби: метод исследования, развивающийся быстрее, чем политика, призванная его сдерживать, в области, где исследования в области синтетической биологии все больше размывают грань между проектированием новых лекарств и проектированием новых рисков.
Пока что исследователи утверждают, что примененные ими меры предосторожности — исключение данных о вирусах, заражающих людей, работа только с бактериофагами и проведение всех экспериментов в защищенной лаборатории — во многом помогают удерживать технологию на стороне пользы, а не вреда. Хи считает, что подход имеет потенциал «кардинально улучшить здоровье людей» за счет новых лекарств и терапий, включая фаговые методы лечения антибиотикорезистентных инфекций. Сохранится ли это обещание за пределами Phi X-174 и успеют ли регуляторы среагировать до того, как следующая версия такого эксперимента будет нацелена на менее контролируемый объект, — два вопроса, которые, вероятно, определят, что будет дальше с вирусами, спроектированными ИИ.
FAQ
Насколько эффективными оказались вирусы, спроектированные ИИ, в лабораторных тестах?
Из 285 синтезированных последовательностей вирусных геномов 16 дали вирусы, способные к репликации и уничтожению бактерий в лаборатории.
Какие данные использовались для обучения модели ИИ Evo?
Сначала Evo обучали примерно на девяти триллионах нуклеотидов из миллионов животных, растений, микробов и вирусов, а затем специально на 11 генах фага Phi X-174 и около 15 000 родственных геномов.
Почему действующие политики биобезопасности США не регулируют вирусы, спроектированные ИИ?
Потому что чисто вычислительное проектирование вирусной ДНК не подпадает под действующие политики NIH США, если только оно не связано с объектом, вызывающим обеспокоенность, что создает регуляторный пробел для вирусов, спроектированных ИИ.
Какие меры предосторожности предприняли ученые при обучении Evo?
Они исключили данные о вирусах, заражающих людей, и родственных патогенах, чтобы не допустить генерации ИИ потенциально опасных вирусных геномов, инфицирующих человека.
{«@context»:»https://schema.org»,»@type»:»FAQPage»,»mainEntity»:[{«@type»:»Question»,»name»:»Насколько эффективными оказались вирусы, спроектированные ИИ, в лабораторных тестах?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Из 285 синтезированных последовательностей вирусных геномов 16 дали вирусы, способные к репликации и уничтожению бактерий в лаборатории.»}},{«@type»:»Question»,»name»:»Какие данные использовались для обучения модели ИИ Evo?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Сначала Evo обучали примерно на девяти триллионах нуклеотидов из миллионов животных, растений, микробов и вирусов, а затем специально на 11 генах фага Phi X-174 и около 15 000 родственных геномов.»}},{«@type»:»Question»,»name»:»Почему действующие политики биобезопасности США не регулируют вирусы, спроектированные ИИ?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Потому что чисто вычислительное проектирование вирусной ДНК не подпадает под действующие политики NIH США, если только оно не связано с объектом, вызывающим обеспокоенность, что создает регуляторный пробел для вирусов, спроектированных ИИ.»}},{«@type»:»Question»,»name»:»Какие меры предосторожности предприняли ученые при обучении Evo?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Они исключили данные о вирусах, заражающих людей, и родственных патогенах, чтобы не допустить генерации ИИ потенциально опасных вирусных геномов, инфицирующих человека.»}}]}
Статья подготовлена при содействии искусственного интеллекта и проверена редакционной командой.
