Перейти к содержимому
  • BTC $56 365 −8,5%
  • ETH $1 566 −9,3%
  • SOL $66,12 −8,3%
  • BNB $515,43 −9,3%
  • XRP $0,8761 −9,0%
  • DOGE $0,0520 −8,8%
  • ADA $0,1359 −8,1%

Утечка безопасности в Anthropic раскрыла зарплаты и сообщения, но не веса моделей

По данным компании, при инциденте с утечкой данных в Anthropic были раскрыты сведения о заработных платах, внутренние сообщения и бизнес‑информация через внешнее программное обеспечение, используемое разработчиком ИИ, а не посредством доступа к весам модели. Исследователи из Cathedral получили доступ к отдельным частям коммерческих, кадровых и ИТ‑систем Anthropic, что спровоцировало спор…

Anthropic security breach
Anthropic Security Breach Exposes Internal Systems in Research Test
ПоделитьсяXTelegramWhatsAppLinkedInEmail

По данным компании, утечка данных Anthropic привела к раскрытию информации о зарплатах, внутренних сообщениях и бизнес-данных через стороннее программное обеспечение, используемое разработчиком ИИ, а не через доступ к весам его моделей. Исследователи из компании Cathedral получили доступ к отдельным элементам коммерческих, кадровых и ИТ‑систем Anthropic, что спровоцировало спор о характере тестирования и его значении для национальной безопасности.

Ключевые выводы

  • Cathedral получил доступ к внутренним бизнес‑системам через сторонние приложения.
  • Anthropic утверждает, что пользовательские запросы и компоненты моделей не были затронуты.
  • Затронутые приложения оставались отключёнными до тех пор, пока поставщики не подтвердили устранение уязвимостей.
  • Компании расходятся во мнениях относительно отчётности и значимости инцидента.

Что раскрыла утечка данных Anthropic

Системы, к которым был получен доступ, содержали кадровые документы и внутренние коммуникации, а также коммерческую информацию. Cathedral сообщила, что использованные в ходе исследования ИИ‑агенты нашли пути к протоколам совещаний, данным о зарплатах, предложениям о работе и сообщениям в Slack.

Затронутые системы также содержали коммерческие контактные данные некоторых клиентов и партнёров, а также базовую учётную информацию. Anthropic заявила, что исследователи не получили доступ к пользовательским запросам, ответам модели, исходному коду или весам ИИ‑моделей.

Маршрут проходил через уязвимости во внешних административных и бизнес‑приложениях, используемых Anthropic. Участвующие поставщики поименованы не были. Таким образом, доступ касался программного обеспечения, поддерживающего бизнес‑процессы, а не компонентов моделей, которые, по заявлению Anthropic, остались вне зоны досягаемости исследователей.

Cathedral проводила тестирование в рамках Программы внешних исследователей Anthropic, которая предоставляет канал для сообщения об уязвимостях. Стартап, основанный бывшими участниками DOGE, разрабатывает инструменты кибербезопасности на основе ИИ для государственных и корпоративных заказчиков.

Как Anthropic обнаружила и локализовала доступ

Anthropic сообщила, что её системы мониторинга выявили часть активности ещё до уведомления со стороны Cathedral, и доступ был отключён в тот же день. Реакция на утечку данных Anthropic также включала отключение затронутых приложений.

Эти приложения были восстановлены только после того, как их поставщики подтвердили, что устранили уязвимости. Прекращение доступа исследователей и исправление программного обеспечения были разными этапами реагирования.

Anthropic заявила, что у неё нет доказательств эксплуатации уязвимостей кем‑либо, кроме Cathedral.

Спор вокруг отчётности выходит за рамки раскрытых данных

Anthropic и Cathedral расходятся во мнениях относительно полноты отчётности по результатам исследования и значимости инцидента для национальной безопасности. Anthropic обвинила Cathedral в том, что та не задокументировала всю активность, которую проводила в системах компании.

Инцидент с утечкой данных Anthropic демонстрирует различие между защитой ИИ‑моделей и обеспечением безопасности инфраструктуры вокруг них: кадровые документы, протоколы совещаний и внутренние сообщения оставались подверженными риску, даже несмотря на то что, по словам Anthropic, компоненты моделей не были скомпрометированы.

Руководитель направления red teaming в Anthropic также выступил за непрерывное тестирование безопасности и переработку программных систем для сокращения их уязвимости.

Статья подготовлена с помощью искусственного интеллекта и проверена редакционной командой.

ПоделитьсяXTelegramWhatsAppLinkedInEmail

Francesco Antonio Russo

Все материалы: Francesco Antonio Russo