Перейти к содержимому
  • BTC $58 468 −6,1%
  • ETH $1 602 −9,3%
  • SOL $67,55 −7,7%
  • BNB $534,74 −8,2%
  • XRP $0,8886 −8,0%
  • DOGE $0,0530 −9,2%
  • ADA $0,1396 −8,3%

Meta укрепляет безопасность искусственного интеллекта (AI): новые инструменты для защиты пользователей и разработчиков

LlamaFirewall: центр управления для безопасности AI

ПоделитьсяXTelegramWhatsAppLinkedInEmail

Meta объявила о серии новых инструментов безопасности для своих моделей искусственного интеллекта, с целью сделать более безопасным развитие и использование AI, как для создателей, так и для защитников в области cybersecurity. 

Нововведения касаются в частности семейства моделей Llama, которые теперь располагают обновленными и более сложными ресурсами для противодействия возникающим угрозам.

Llama Guard 4: мультимодальная безопасность для текста и изображений в новой программе AI от Meta

Одним из основных обновлений является Llama Guard 4, развитие настраиваемого фильтра безопасности от Meta.

Великая инновация этой версии заключается в ее мультимодальной способности, то есть в возможности анализировать и применять правила безопасности не только к тексту, но и к изображениям. Этот шаг является решающим, учитывая, что AI-приложения становятся все более визуальными.

Llama Guard 4 уже интегрирован в новый API Llama от Meta, который в настоящее время доступен в ограниченной предварительной версии. Разработчики могут получить доступ к этому инструменту через официальную страницу защит Llama, либо через платформы Hugging Face и GitHub.

Еще одна значительная новинка — LlamaFirewall, система, разработанная для выполнения роли центра управления безопасностью в системах искусственного интеллекта. Этот инструмент позволяет координировать различные модели защиты и интегрируется с другими инструментами безопасности Meta.

LlamaFirewall предназначен для противодействия сложным угрозам, таким как быстрые инъекции (prompt injection), генерация потенциально опасного кода и рискованное поведение AI-плагинов. 

По сути, это представляет собой бастион против самых коварных атак, которые могут поставить под угрозу целостность систем, основанных на искусственном интеллекте.

Meta также обновила свою систему обнаружения попыток jailbreak и prompt injection с новым Prompt Guard 2 (86M). Эта модель была разработана для более точного выявления попыток манипуляции AI.

Рядом с этим была представлена Prompt Guard 2 22M, более легкая и быстрая версия. С уменьшением задержки и вычислительных затрат до 75%, эта версия идеальна для тех, кто работает с ограниченными ресурсами, но не хочет отказываться от безопасности.

CyberSec Eval 4: новые бенчмарки для безопасности AI

Meta не ограничилась предоставлением инструментов для разработчиков, но также обновила свой набор тестов CyberSec Eval 4, предназначенный для оценки возможностей систем AI в области кибербезопасности. 

Этот набор инструментов с открытым исходным кодом помогает организациям измерять эффективность искусственного интеллекта в обнаружении и реагировании на цифровые угрозы.

Два новых инструмента обогащают этот набор:

  • — Оценка CyberSOC: разработана в сотрудничестве с CrowdStrike, эта структура оценивает производительность ИИ в реальном контексте Центра Оперативной Безопасности (SOC), предлагая конкретное представление об оперативной эффективности искусственного интеллекта.
  • — AutoPatchBench: эталонный тест, который проверяет способность моделей AI, включая семейство Llama, автоматически выявлять и исправлять уязвимости в коде до того, как они будут использованы злоумышленниками.

Чтобы облегчить внедрение этих инструментов, Meta запустила программу Llama Defenders, которая предоставляет привилегированный доступ к выбору AI-решений – некоторые с открытым исходным кодом, другие в предварительном просмотре или собственные – предназначенные для решения конкретных задач в области безопасности.

Среди общих инструментов также фигурирует автоматический классификатор конфиденциальных документов, используемый внутри Meta. 

Эта система применяет метки безопасности к документам внутри организации, предотвращая случайное попадание конфиденциальной информации в системы AI, где она может быть раскрыта.

Meta также столкнулась с растущей проблемой фальшивого аудио, созданного искусственным интеллектом, которое все чаще используется в мошенничествах и попытках фишинга. Два новых инструмента были предоставлены партнерам:

  • — Детектор аудио, сгенерированного Llama
  • — Детектор аудиоводяных знаков Llama

Эти инструменты помогают выявлять синтетические голоса в подозрительных звонках. Компании, такие как ZenDesk, Bell Canada и AT&T, уже оценивают возможность интеграции этих технологий в свои системы безопасности.

Частная обработка: полезный ИИ без компрометации конфиденциальности

Наконец, Meta представила предварительный обзор технологии, находящейся в стадии разработки для WhatsApp, под названием частная обработка. 

Цель состоит в том, чтобы позволить искусственному интеллекту предоставлять полезные функции – такие как резюмирование непрочитанных сообщений или предложение ответов – без доступа Meta или WhatsApp к содержимому сообщений.

Эта технология представляет собой важный шаг к AI, уважающему конфиденциальность. Meta принимает прозрачный подход, публикуя свою модель угроз и приглашая сообщество исследователей протестировать ее устойчивость перед официальным выпуском.

С этой серией объявлений Meta демонстрирует конкретную приверженность укреплению безопасности искусственного интеллекта, как с точки зрения разработки, так и с точки зрения защиты. 

Цель двоякая. А именно защитить конечных пользователей и предоставить разработчикам и специалистам по безопасности передовые инструменты для борьбы с постоянно развивающимися цифровыми угрозами.

В быстро меняющемся технологическом ландшафте, где AI играет все более центральную роль, такие инициативы являются фундаментальными для обеспечения более безопасного, прозрачного и ответственного цифрового будущего.

ПоделитьсяXTelegramWhatsAppLinkedInEmail

Alessia Pannone

Все материалы: Alessia Pannone