Meta объявила о серии новых инструментов безопасности для своих моделей искусственного интеллекта, с целью сделать более безопасным развитие и использование AI, как для создателей, так и для защитников в области cybersecurity.
Нововведения касаются в частности семейства моделей Llama, которые теперь располагают обновленными и более сложными ресурсами для противодействия возникающим угрозам.
Содержание
Llama Guard 4: мультимодальная безопасность для текста и изображений в новой программе AI от Meta
Одним из основных обновлений является Llama Guard 4, развитие настраиваемого фильтра безопасности от Meta.
Великая инновация этой версии заключается в ее мультимодальной способности, то есть в возможности анализировать и применять правила безопасности не только к тексту, но и к изображениям. Этот шаг является решающим, учитывая, что AI-приложения становятся все более визуальными.
Llama Guard 4 уже интегрирован в новый API Llama от Meta, который в настоящее время доступен в ограниченной предварительной версии. Разработчики могут получить доступ к этому инструменту через официальную страницу защит Llama, либо через платформы Hugging Face и GitHub.
Еще одна значительная новинка — LlamaFirewall, система, разработанная для выполнения роли центра управления безопасностью в системах искусственного интеллекта. Этот инструмент позволяет координировать различные модели защиты и интегрируется с другими инструментами безопасности Meta.
LlamaFirewall предназначен для противодействия сложным угрозам, таким как быстрые инъекции (prompt injection), генерация потенциально опасного кода и рискованное поведение AI-плагинов.
По сути, это представляет собой бастион против самых коварных атак, которые могут поставить под угрозу целостность систем, основанных на искусственном интеллекте.
Meta также обновила свою систему обнаружения попыток jailbreak и prompt injection с новым Prompt Guard 2 (86M). Эта модель была разработана для более точного выявления попыток манипуляции AI.
Рядом с этим была представлена Prompt Guard 2 22M, более легкая и быстрая версия. С уменьшением задержки и вычислительных затрат до 75%, эта версия идеальна для тех, кто работает с ограниченными ресурсами, но не хочет отказываться от безопасности.
CyberSec Eval 4: новые бенчмарки для безопасности AI
Meta не ограничилась предоставлением инструментов для разработчиков, но также обновила свой набор тестов CyberSec Eval 4, предназначенный для оценки возможностей систем AI в области кибербезопасности.
Этот набор инструментов с открытым исходным кодом помогает организациям измерять эффективность искусственного интеллекта в обнаружении и реагировании на цифровые угрозы.
Два новых инструмента обогащают этот набор:
- — Оценка CyberSOC: разработана в сотрудничестве с CrowdStrike, эта структура оценивает производительность ИИ в реальном контексте Центра Оперативной Безопасности (SOC), предлагая конкретное представление об оперативной эффективности искусственного интеллекта.
- — AutoPatchBench: эталонный тест, который проверяет способность моделей AI, включая семейство Llama, автоматически выявлять и исправлять уязвимости в коде до того, как они будут использованы злоумышленниками.
Чтобы облегчить внедрение этих инструментов, Meta запустила программу Llama Defenders, которая предоставляет привилегированный доступ к выбору AI-решений – некоторые с открытым исходным кодом, другие в предварительном просмотре или собственные – предназначенные для решения конкретных задач в области безопасности.
Среди общих инструментов также фигурирует автоматический классификатор конфиденциальных документов, используемый внутри Meta.
Эта система применяет метки безопасности к документам внутри организации, предотвращая случайное попадание конфиденциальной информации в системы AI, где она может быть раскрыта.
Meta также столкнулась с растущей проблемой фальшивого аудио, созданного искусственным интеллектом, которое все чаще используется в мошенничествах и попытках фишинга. Два новых инструмента были предоставлены партнерам:
- — Детектор аудио, сгенерированного Llama
- — Детектор аудиоводяных знаков Llama
Эти инструменты помогают выявлять синтетические голоса в подозрительных звонках. Компании, такие как ZenDesk, Bell Canada и AT&T, уже оценивают возможность интеграции этих технологий в свои системы безопасности.
Частная обработка: полезный ИИ без компрометации конфиденциальности
Наконец, Meta представила предварительный обзор технологии, находящейся в стадии разработки для WhatsApp, под названием частная обработка.
Цель состоит в том, чтобы позволить искусственному интеллекту предоставлять полезные функции – такие как резюмирование непрочитанных сообщений или предложение ответов – без доступа Meta или WhatsApp к содержимому сообщений.
Эта технология представляет собой важный шаг к AI, уважающему конфиденциальность. Meta принимает прозрачный подход, публикуя свою модель угроз и приглашая сообщество исследователей протестировать ее устойчивость перед официальным выпуском.
С этой серией объявлений Meta демонстрирует конкретную приверженность укреплению безопасности искусственного интеллекта, как с точки зрения разработки, так и с точки зрения защиты.
Цель двоякая. А именно защитить конечных пользователей и предоставить разработчикам и специалистам по безопасности передовые инструменты для борьбы с постоянно развивающимися цифровыми угрозами.
В быстро меняющемся технологическом ландшафте, где AI играет все более центральную роль, такие инициативы являются фундаментальными для обеспечения более безопасного, прозрачного и ответственного цифрового будущего.




