OpenAI тихо демонтировала один из своих важнейших внутренних механизмов защиты, расформировав команду, отвечавшую за выявление самых опасных рисков, которые могут представлять ее модели искусственного интеллекта. По данным Financial Times, команда OpenAI, которая была расформирована в конце июля 2026 года, была группой по готовности — подразделением, задачей которого было определять, могут ли ее модели быть использованы в целях, таких как разработка биологического оружия или крупномасштабные кибератаки, и разрабатывать способы предотвращения таких сценариев.
Summary
Ключевые выводы
- По данным Financial Times, OpenAI расформировала свою команду по готовности в конце июля 2026 года.
- Задачей команды была оценка серьезных рисков от моделей ИИ и создание способов их смягчения, включая био- и киберугрозы.
- Ответственность за риски теперь разделена и распределена между существующими командами, а не сосредоточена в одном специализированном подразделении.
- Руководитель отдела этики Хлоя Бакалар (Chloé Bakalar), главный футуролог Джош Ачиам (Josh Achiam) и глава отдела безопасности Йоханнес Хайдеке (Johannes Heidecke) недавно покинули OpenAI.
- Бывший сотрудник Anthropic Дилан Скандинаро (Dylan Scandinaro), возглавлявший направление по готовности, переключает внимание на рекурсивный самосовершенствующийся ИИ.
Что произошло с командой по готовности OpenAI
Команда по готовности OpenAI существовала для ответа на один прямой вопрос: может ли модель нанести реальный ущерб до ее выпуска? Это означало тестирование того, может ли система помочь кому-то создать биологическое оружие, провести сложную хакерскую операцию или иным образом причинить серьезный вред, а затем разработку мер защиты для снижения этого риска. Теперь эта централизованная функция больше не существует как отдельное подразделение.
Вместо этого, по данным Financial Times, надзор за конкретными областями опасности, такими как биологические и киберриски, был разделен и передан существующим командам в других частях компании. Больше нет единой группы, чья основная задача — отслеживать возможность катастрофического злоупотребления по всем направлениям. Насколько такой распределенный подход позволяет столь же эффективно выявлять те же проблемы, внешние наблюдатели не могут легко проверить.
Это не первая расформированная команда по безопасности
Этот шаг не является единичным. В последние несколько лет OpenAI последовательно демонтирует более исследовательскую, ориентированную на долгосрочную перспективу инфраструктуру безопасности, на которой когда-то строила свою репутацию. Ранее компания закрыла как команду по готовности к ИИ уровня AGI, так и команду по супервыравниванию — две группы, которые были явно нацелены на подготовку к сценариям, в которых системы ИИ становятся значительно более способными, чем сегодня.
В совокупности эта картина указывает на то, что компания сужает свой аппарат безопасности именно в тот момент, когда ее модели становятся более мощными, а не менее. Каждое отдельное расформирование поодиночке может выглядеть как рутинное. Но, следуя одно за другим, они начинают напоминать стратегический отход от того типа долгосрочного планирования рисков, которое OpenAI когда-то публично продвигала.
Волна уходов дополняет картину
Реструктуризация совпала с серией громких уходов из рядов специалистов по безопасности и этике OpenAI. Руководитель отдела этики Хлоя Бакалар (Chloé Bakalar), главный футуролог Джош Ачиам (Josh Achiam) и глава отдела безопасности Йоханнес Хайдеке (Johannes Heidecke) недавно покинули компанию. Никто из них не был заменен прямым преемником с аналогичным титулом, по крайней мере публично.
Такое сочетание — расформированная команда плюс уход руководителей — подпитывает критику со стороны тех, кто наблюдал за эволюцией обязательств компании в области безопасности. Ян Лейке (Jan Leike), ушедший из OpenAI в 2024 году, заявил Financial Times, что компания игнорирует безопасность в пользу создания того, что он назвал «блестящими продуктами». Это резкое обвинение, которое звучит еще весомее на фоне того, как много ролей, связанных с безопасностью, освободилось за короткий период.
Почему важен момент
Все это не происходит в вакууме. OpenAI движется к ожидаемому масштабному первичному публичному размещению акций, и компании, готовящиеся к такому уровню внимания, как правило, оптимизируют операции, укрупняют команды и сокращают все, что не вписывается напрямую в историю роста, понятную инвесторам. Специализированная команда по оценке рисков, сосредоточенная на наихудших сценариях, не обязательно вписывается в этот нарратив, даже если она соответствует миссии, о которой OpenAI говорила с момента своего основания.
Это имеет значение и за пределами стен OpenAI. Компания давно позиционирует себя как лидера в ответственной разработке ИИ, и ее внутренние решения по укомплектованию команд безопасности задают тон, за которым остальная индустрия внимательно следит. Если компания масштаба OpenAI перед выходом на биржу интегрирует специализированные команды по рискам в продуктовые группы, конкуренты и регуляторы, вероятно, обратят внимание на то, что это сигнализирует о расстановке приоритетов в условиях растущего коммерческого давления.
Кто сейчас руководит работой по рискам
Дилан Скандинаро (Dylan Scandinaro), возглавлявший команду по готовности до ее расформирования, не покидает компанию. Скандинаро, которого переманили из Anthropic в феврале, теперь переключает внимание на более узкий, но, возможно, еще более критичный вопрос: последствия рекурсивного самосовершенствующегося ИИ — систем, способных улучшать собственные возможности без значительного участия человека в цикле.
Такое перераспределение ролей говорит о том, что OpenAI по-прежнему хочет иметь выделенный фокус на своих самых экстремальных долгосрочных рисках, просто не в той организационной форме, что раньше. Означает ли интеграция оценки био- и киберрисков в существующие продуктовые команды при одновременном выделении более узкой исследовательской роли для одного из бывших руководителей эквивалентный уровень покрытия — это открытый вопрос, который поднимают критики вроде Лейке. Пока что OpenAI публично не объяснила, как перераспределенные обязанности будут измеряться или подотчетны в той же степени, что и отдельная команда в прошлом.
FAQ
За что отвечала команда по готовности OpenAI?
Команда по готовности оценивала, представляют ли модели ИИ OpenAI серьезные риски, такие как содействие разработке биологического оружия или крупномасштабным кибератакам, и разрабатывала стратегии по снижению этих рисков до выпуска моделей.
Почему OpenAI расформировала свою команду по готовности?
OpenAI не дала подробного публичного объяснения. Financial Times сообщает, что этот шаг был сделан в конце июля 2026 года и сопровождается более широкой реструктуризацией на фоне подготовки компании к ожидаемому крупному IPO, после ранее принятых решений о роспуске команд по готовности к AGI и по супервыравниванию.
Кто сейчас занимается оценкой рисков ИИ в OpenAI?
Ответственность за отдельные области риска, такие как био- и киберугрозы, была разделена и передана существующим командам, вместо того чтобы быть централизованной в одной группе. Дилан Скандинаро, бывший руководитель команды по готовности, теперь сосредоточен исключительно на последствиях рекурсивного самосовершенствующегося ИИ.
{«@context»:»https://schema.org»,»@type»:»FAQPage»,»mainEntity»:[{«@type»:»Question»,»name»:»За что отвечала команда по готовности OpenAI?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Команда по готовности оценивала, представляют ли модели ИИ OpenAI серьезные риски, такие как содействие разработке биологического оружия или крупномасштабным кибератакам, и разрабатывала стратегии по снижению этих рисков до выпуска моделей.»}},{«@type»:»Question»,»name»:»Почему OpenAI расформировала свою команду по готовности?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»OpenAI не дала подробного публичного объяснения. Financial Times сообщает, что этот шаг был сделан в конце июля 2026 года и сопровождается более широкой реструктуризацией на фоне подготовки компании к ожидаемому крупному IPO, после ранее принятых решений о роспуске команд по готовности к AGI и по супервыравниванию.»}},{«@type»:»Question»,»name»:»Кто сейчас занимается оценкой рисков ИИ в OpenAI?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Ответственность за отдельные области риска, такие как био- и киберугрозы, была разделена и передана существующим командам, вместо того чтобы быть централизованной в одной группе. Дилан Скандинаро, бывший руководитель команды по готовности, теперь сосредоточен исключительно на последствиях рекурсивного самосовершенствующегося ИИ.»}}]}
Статья подготовлена при содействии искусственного интеллекта и проверена редакционной командой.
