Перейти к содержимому
  • BTC $60 510 +3,5%
  • ETH $1 688 +5,1%
  • SOL $70,63 +4,6%
  • BNB $549,86 +2,8%
  • XRP $0,9336 +5,1%
  • DOGE $0,0553 +4,7%
  • ADA $0,1452 +4,0%

Регулирование ИИ от Anthropic: правительства смогут блокировать опасные модели

Anthropic представила новый регламент по ИИ, направленный на ограничение использования высокорисковых искусственных интеллектов и, в то же время, на подготовку правительств и экономики к воздействию передовых моделей. Посыл ясен: если возможности продвинутого ИИ растут так быстро, нужны нормативные инструменты, способные…

regolamentazione AI di Anthropic
Regolamentazione AI di Anthropic: limiti e sicurezza
ПоделитьсяXTelegramWhatsAppLinkedInEmail

Anthropic представила новую регламентацию ИИ от Anthropic, которая нацелена на ограничение использования высокорисковых систем искусственного интеллекта и, одновременно, на то, чтобы подготовить правительства и экономику к воздействию передовых моделей. Посыл однозначен: если возможности продвинутого ИИ растут так быстро, нужны нормативные инструменты, способные блокировать или сдерживать опасные внедрения до того, как они нанесут серьезный ущерб.

Регламентация ИИ от Anthropic между безопасностью и экономическим воздействием

Anthropic представила два плана, интегрированных в проект Policy on the AI Exponential. Первый определяет рамочную систему для продвинутых ИИ, второй рассматривает экономические последствия для работников и распределение финансовых выгод, создаваемых ИИ. В центре — конкретное требование: дать правительствам полномочия для превентивного вмешательства в модели, считающиеся высокорисковыми.

Периметр предложения ясен. Регламентация ИИ от Anthropic будет касаться систем, обученных с использованием объема вычислений свыше 10²⁵ операций с плавающей запятой. В сферу применения также попадут компании с годовыми доходами от ИИ более 500 миллионов долларов. Anthropic включает и предприятия, которые тратят более 1 миллиарда долларов в год на исследования и разработки в области ИИ.

Нормативы для высокорискового ИИ: прозрачность, тесты и санкции

К ключевым мерам относятся независимые проверки моделей, подробная документация по безопасности и периодические отчеты о рисках со стороны разработчиков. Anthropic хочет, чтобы независимые оценщики с достаточными ресурсами и доступом к моделям работали вместе с производителями, контролируя тесты и отчеты. Цель — усилить прозрачность, не оставляя все на самопроверку компаний.

Предложение также предусматривает гражданско-правовые санкции, привязанные к глобальному годовому обороту компаний, с более жесткими штрафами в случае повторных нарушений. Таким образом Anthropic стремится создать экономический сдерживающий фактор, соразмерный глобальному масштабу отрасли. Компания также требует внедрения надежных программ безопасности, описанных публично, и большей прозрачности по отношению к компетентным государственным органам.

Методы безопасности для продвинутых моделей ИИ и доступ для оценщиков

Еще один центральный пункт политики Anthropic в отношении ИИ — защита всей среды разработки. Разработчики должны будут поддерживать высокие стандарты, чтобы защищаться от внешних атак и внутренних угроз. Кроме того, предложение требует, чтобы независимые оценщики могли получать доступ к моделям для проведения реальных, а не только формальных проверок.

Четыре риска, обозначенные Anthropic для передового ИИ

Anthropic выделяет четыре критические области риска: биологический, киберриски, потеря контроля над системами и автоматизированные исследования, проводимые искусственным интеллектом. Потенциальные последствия варьируются от злонамеренного использования для создания опасных вирусов до уязвимостей для жизненно важных сервисов, таких как больницы и энергетическая инфраструктура.

Для биологического риска предложение настаивает на инструментах скрининга для генетического синтеза и системах бионаблюдения для выявления ранних сигналов. В киберсфере оно требует большей защиты критической инфраструктуры, замены уязвимых устаревших систем и создания государственных функций, посвященных мониторингу возникающих цифровых наступательных возможностей.

Anthropic также указывает на необходимость лучше развивать механизмы контроля против потери контроля и против автоматизированных исследований. В этих случаях компания требует норм, способных отключать или изолировать опасные системы ИИ до того, как они нанесут ущерб.

Общественная устойчивость и государственный контроль над опасным ИИ

Предложение не ограничивается технической безопасностью. Anthropic включает также меры по укреплению устойчивости общества к воздействиям продвинутых ИИ, с планами предотвращения биологических и технологических чрезвычайных ситуаций и со стратегиями по обновлению и защите критической инфраструктуры от кибератак.

Компания призывает политиков ускорить нормативный процесс, чтобы управление искусственным интеллектом не отставало от скорости развития технологических возможностей. В тексте подчеркивается ключевая мысль: безопасность не может зависеть только от прозрачности и саморегулирования, а требует совместных усилий правительств, разработчиков и гражданского общества.

FAQ о регламентации ИИ от Anthropic

Что активирует полномочия правительств по блокировке ИИ?

Согласно предложению, правительства должны иметь полномочия для превентивного вмешательства в модели, считающиеся высокорисковыми. Однако в тексте не указаны конкретные операционные пороги или детальные процедуры для активации этих полномочий.

Как выбираются и финансируются независимые оценщики?

В статье говорится, что независимые оценщики должны иметь достаточные ресурсы и доступ к моделям, но не уточняются детали отбора, финансирования или управления системой контроля.

Какие основные биологические риски выделены?

Anthropic указывает на риск злонамеренного использования ИИ для создания опасных вирусов. В связи с этим она предлагает скрининг для генетического синтеза и системы бионаблюдения.

Как предложение рассматривает риски кибербезопасности?

Предложение направлено на усиление защиты критической инфраструктуры, замену уязвимых устаревших систем и создание государственных функций, посвященных мониторингу возникающих цифровых наступательных возможностей.

Какие санкции предусмотрены за повторные нарушения?

Anthropic предлагает гражданско-правовые санкции, рассчитываемые исходя из глобального годового оборота, с более высокими штрафами в случае повторных нарушений.

ПоделитьсяXTelegramWhatsAppLinkedInEmail

Francesco Antonio Russo

Все материалы: Francesco Antonio Russo