По данным компании, утечка данных Anthropic привела к раскрытию информации о зарплатах, внутренних сообщениях и бизнес-данных через стороннее программное обеспечение, используемое разработчиком ИИ, а не через доступ к весам его моделей. Исследователи из компании Cathedral получили доступ к отдельным элементам коммерческих, кадровых и ИТ‑систем Anthropic, что спровоцировало спор о характере тестирования и его значении для национальной безопасности.
Содержание
Ключевые выводы
- Cathedral получил доступ к внутренним бизнес‑системам через сторонние приложения.
- Anthropic утверждает, что пользовательские запросы и компоненты моделей не были затронуты.
- Затронутые приложения оставались отключёнными до тех пор, пока поставщики не подтвердили устранение уязвимостей.
- Компании расходятся во мнениях относительно отчётности и значимости инцидента.
Что раскрыла утечка данных Anthropic
Системы, к которым был получен доступ, содержали кадровые документы и внутренние коммуникации, а также коммерческую информацию. Cathedral сообщила, что использованные в ходе исследования ИИ‑агенты нашли пути к протоколам совещаний, данным о зарплатах, предложениям о работе и сообщениям в Slack.
Затронутые системы также содержали коммерческие контактные данные некоторых клиентов и партнёров, а также базовую учётную информацию. Anthropic заявила, что исследователи не получили доступ к пользовательским запросам, ответам модели, исходному коду или весам ИИ‑моделей.
Маршрут проходил через уязвимости во внешних административных и бизнес‑приложениях, используемых Anthropic. Участвующие поставщики поименованы не были. Таким образом, доступ касался программного обеспечения, поддерживающего бизнес‑процессы, а не компонентов моделей, которые, по заявлению Anthropic, остались вне зоны досягаемости исследователей.
Cathedral проводила тестирование в рамках Программы внешних исследователей Anthropic, которая предоставляет канал для сообщения об уязвимостях. Стартап, основанный бывшими участниками DOGE, разрабатывает инструменты кибербезопасности на основе ИИ для государственных и корпоративных заказчиков.
Как Anthropic обнаружила и локализовала доступ
Anthropic сообщила, что её системы мониторинга выявили часть активности ещё до уведомления со стороны Cathedral, и доступ был отключён в тот же день. Реакция на утечку данных Anthropic также включала отключение затронутых приложений.
Эти приложения были восстановлены только после того, как их поставщики подтвердили, что устранили уязвимости. Прекращение доступа исследователей и исправление программного обеспечения были разными этапами реагирования.
Anthropic заявила, что у неё нет доказательств эксплуатации уязвимостей кем‑либо, кроме Cathedral.
Спор вокруг отчётности выходит за рамки раскрытых данных
Anthropic и Cathedral расходятся во мнениях относительно полноты отчётности по результатам исследования и значимости инцидента для национальной безопасности. Anthropic обвинила Cathedral в том, что та не задокументировала всю активность, которую проводила в системах компании.
Инцидент с утечкой данных Anthropic демонстрирует различие между защитой ИИ‑моделей и обеспечением безопасности инфраструктуры вокруг них: кадровые документы, протоколы совещаний и внутренние сообщения оставались подверженными риску, даже несмотря на то что, по словам Anthropic, компоненты моделей не были скомпрометированы.
Руководитель направления red teaming в Anthropic также выступил за непрерывное тестирование безопасности и переработку программных систем для сокращения их уязвимости.
Статья подготовлена с помощью искусственного интеллекта и проверена редакционной командой.




