Anthropic представила новую регламентацию ИИ от Anthropic, которая нацелена на ограничение использования высокорисковых систем искусственного интеллекта и, одновременно, на то, чтобы подготовить правительства и экономику к воздействию передовых моделей. Посыл однозначен: если возможности продвинутого ИИ растут так быстро, нужны нормативные инструменты, способные блокировать или сдерживать опасные внедрения до того, как они нанесут серьезный ущерб.
Содержание
Регламентация ИИ от Anthropic между безопасностью и экономическим воздействием
Anthropic представила два плана, интегрированных в проект Policy on the AI Exponential. Первый определяет рамочную систему для продвинутых ИИ, второй рассматривает экономические последствия для работников и распределение финансовых выгод, создаваемых ИИ. В центре — конкретное требование: дать правительствам полномочия для превентивного вмешательства в модели, считающиеся высокорисковыми.
Периметр предложения ясен. Регламентация ИИ от Anthropic будет касаться систем, обученных с использованием объема вычислений свыше 10²⁵ операций с плавающей запятой. В сферу применения также попадут компании с годовыми доходами от ИИ более 500 миллионов долларов. Anthropic включает и предприятия, которые тратят более 1 миллиарда долларов в год на исследования и разработки в области ИИ.
Нормативы для высокорискового ИИ: прозрачность, тесты и санкции
К ключевым мерам относятся независимые проверки моделей, подробная документация по безопасности и периодические отчеты о рисках со стороны разработчиков. Anthropic хочет, чтобы независимые оценщики с достаточными ресурсами и доступом к моделям работали вместе с производителями, контролируя тесты и отчеты. Цель — усилить прозрачность, не оставляя все на самопроверку компаний.
Предложение также предусматривает гражданско-правовые санкции, привязанные к глобальному годовому обороту компаний, с более жесткими штрафами в случае повторных нарушений. Таким образом Anthropic стремится создать экономический сдерживающий фактор, соразмерный глобальному масштабу отрасли. Компания также требует внедрения надежных программ безопасности, описанных публично, и большей прозрачности по отношению к компетентным государственным органам.
Методы безопасности для продвинутых моделей ИИ и доступ для оценщиков
Еще один центральный пункт политики Anthropic в отношении ИИ — защита всей среды разработки. Разработчики должны будут поддерживать высокие стандарты, чтобы защищаться от внешних атак и внутренних угроз. Кроме того, предложение требует, чтобы независимые оценщики могли получать доступ к моделям для проведения реальных, а не только формальных проверок.
Четыре риска, обозначенные Anthropic для передового ИИ
Anthropic выделяет четыре критические области риска: биологический, киберриски, потеря контроля над системами и автоматизированные исследования, проводимые искусственным интеллектом. Потенциальные последствия варьируются от злонамеренного использования для создания опасных вирусов до уязвимостей для жизненно важных сервисов, таких как больницы и энергетическая инфраструктура.
Для биологического риска предложение настаивает на инструментах скрининга для генетического синтеза и системах бионаблюдения для выявления ранних сигналов. В киберсфере оно требует большей защиты критической инфраструктуры, замены уязвимых устаревших систем и создания государственных функций, посвященных мониторингу возникающих цифровых наступательных возможностей.
Anthropic также указывает на необходимость лучше развивать механизмы контроля против потери контроля и против автоматизированных исследований. В этих случаях компания требует норм, способных отключать или изолировать опасные системы ИИ до того, как они нанесут ущерб.
Общественная устойчивость и государственный контроль над опасным ИИ
Предложение не ограничивается технической безопасностью. Anthropic включает также меры по укреплению устойчивости общества к воздействиям продвинутых ИИ, с планами предотвращения биологических и технологических чрезвычайных ситуаций и со стратегиями по обновлению и защите критической инфраструктуры от кибератак.
Компания призывает политиков ускорить нормативный процесс, чтобы управление искусственным интеллектом не отставало от скорости развития технологических возможностей. В тексте подчеркивается ключевая мысль: безопасность не может зависеть только от прозрачности и саморегулирования, а требует совместных усилий правительств, разработчиков и гражданского общества.
FAQ о регламентации ИИ от Anthropic
Что активирует полномочия правительств по блокировке ИИ?
Согласно предложению, правительства должны иметь полномочия для превентивного вмешательства в модели, считающиеся высокорисковыми. Однако в тексте не указаны конкретные операционные пороги или детальные процедуры для активации этих полномочий.
Как выбираются и финансируются независимые оценщики?
В статье говорится, что независимые оценщики должны иметь достаточные ресурсы и доступ к моделям, но не уточняются детали отбора, финансирования или управления системой контроля.
Какие основные биологические риски выделены?
Anthropic указывает на риск злонамеренного использования ИИ для создания опасных вирусов. В связи с этим она предлагает скрининг для генетического синтеза и системы бионаблюдения.
Как предложение рассматривает риски кибербезопасности?
Предложение направлено на усиление защиты критической инфраструктуры, замену уязвимых устаревших систем и создание государственных функций, посвященных мониторингу возникающих цифровых наступательных возможностей.
Какие санкции предусмотрены за повторные нарушения?
Anthropic предлагает гражданско-правовые санкции, рассчитываемые исходя из глобального годового оборота, с более высокими штрафами в случае повторных нарушений.




