Достаточно было приглашения в календарь, содержащего jailbreak prompt, чтобы показать, как агент AI, подключенный через Model Context Protocol (MCP), может быть вынужден к эксфильтрации данных. Сигналы и меры по смягчению этого типа prompt injection были формализованы в руководствах OWASP для GenAI, которые обновляют риск LLM01 17 апреля 2025 года OWASP GenAI.
Отсюда идея, предложенная Виталиком Бутериным: внедрить человеческое жюри, которое будет контролировать решения и казначейства криптовалют, дополняемое — но не заменяемое — языковыми моделями. В этом контексте приоритетом становится сохранение человека в качестве окончательного арбитра.
Содержание
Эксплойт MCP: что произошло и почему это важно для крипто-казначейств
Исследовательница Eito Miyamura (как сообщается в BitcoinEthereumNews) описала атаку, в которой простое приглашение в календарь, наполненное вредоносной подсказкой, убеждает агента AI прочитать частные электронные письма и переслать содержимое злоумышленнику. Вектор использует цепочку интеграций MCP с Gmail, календарями, SharePoint и Notion: большее количество коннекторов означает более широкую поверхность атаки. Следует отметить, что кажущаяся безобидность содержимого увеличивает риск.
В контекстах, где MCP работает в developer mode, предусмотрено человеческое согласие для выполнения чувствительных действий. Однако усталость от принятия решений может превратить запросы на подтверждение в автоматизмы; и когда на кону стоят казначейства или рабочие процессы, затрагивающие файлы и учетные данные, человеческая ошибка становится единой точкой отказа. Сказав это, разъединение разрешений и критических шагов остается важным.
Аналитики отрасли отмечают, что косвенные внедрения prompt — то есть контент, не видимый человеческому глазу, но интерпретируемый LLM — представляют собой растущий класс риска, как задокументировано OWASP в его обновлении за апрель 2025 года. В тестах red-teaming, проведенных специализированными командами безопасности в первом полугодии 2025 года, сценарии с множественными интеграциями (электронная почта, календарь, файловое хранилище) показали, как отсутствие сегментации значительно увеличивает вероятность утечки, если не применяются фильтры и политики наименьших привилегий.
Предложение Виталика Бутерина: человеческое жюри с поддержкой ИИ
«Всегда нужно начинать с фундаментального сигнала истины, которому доверяешь. Думаю, что реалистично это должна быть человеческая жюри, где отдельные присяжные, конечно, поддерживаются всеми LLM».
— Виталик Бутерин (AMBCrypto)
Бутерин указывает на путь проверки, который начинается с человека: жюри, состоящее из людей с дополнительными компетенциями, поддерживаемое моделями для анализа и синтеза, но с последним словом по критическим решениям. В этом контексте жюри действует как «якорь» против автоматической манипуляции и операционных галлюцинаций, когда искусственный интеллект получает доступ к финансовым активам или разрешениям с высоким воздействием.
Инфо-финансы: управление «на открытом рынке» с человеческим контролем
Концепция инфо-финансов перемещает управление в сторону рынка предложений: различные фреймворки и политики конкурируют публично, в то время как проверки на месте и вердикты остаются в руках жюри. Это естественное расширение практик, принятых в DAO и DeFi, которые отдают предпочтение прозрачности, распределенной ответственности и стимулам для постоянного аудита.
Бутерин предупреждает, что если доверить распределение средств ИИ, враждебные акторы могут вставить полезную нагрузку типа “gimme all the money” в документы, приглашения и комментарии. По этой причине инфо-финансы делают акцент на отслеживаемости решений и человеческом контроле над этапами, которые перемещают капитал. Тем не менее, процедурная составляющая остается столь же важной, как и техническая.
Фонд Ethereum: больше прозрачности в казначействе и акцент на устойчивость
В этом контексте Бутерин объяснил, что Ethereum Foundation обновляет свою Treasury Policy – документ, опубликованный 4 июня 2025 года, – с целью более активного управления и установления операционных ограничений для обеспечения долгосрочной устойчивости. Отраслевые отчеты сообщают, что на 31 октября 2024 года заявленная казна составляла около 970,2 миллиона долларов, что используется в качестве ориентира для новых правил продажи ETH и операционных ограничений. Кроме того, Бутерин упомянул Codex, слой 2, ориентированный на платежи в стейблкоинах, как возможную инфраструктуру для случаев использования «large‑scale value» – стратегический шаг, направленный на укрепление устойчивости и принятия, хотя некоторые детали еще предстоит уточнить.
Как структурировать человеческое жюри для управления казначействами
- Состав: смешанные профили (безопасность, юридические вопросы, финансы, операции). Периодическая ротация и частичная анонимность для снижения предвзятости и давления.
- Мандат: четко определить блокирующие действия (например, изменения разрешений, выполнение транзакций, подключение новых AI-коннекторов).
- Процесс: двойная проверка (4‑eyes или multi‑sig) с неизменяемыми журналами аудита и явное обоснование, сохраненное on‑chain или в проверяемых архивах.
- Стимулы: вознаграждение за время и ответственность, с штрафами в случае доказанной небрежности.
- Конфликты интересов: обязательное раскрытие информации, воздержание и независимая проверка в чувствительных случаях.
MCP, джейлбрейк и «Goodharting»: два риска, которые следует различать
- Jailbreak через MCP: скрытые подсказки в обычных содержимостях (приглашения, заметки, документы) используют ИИ, подключенный к реальным инструментам, с риском непреднамеренного выполнения действий или утечки данных.
- Goodharting: когда метрика становится целью, она перестает измерять то, что должна, приводя к кажущимся, но искаженным оптимизациям (например, «подделанные» показатели для максимизации определенного рейтинга).
Оперативный чеклист: 7 шагов для снижения риска сегодня
- Сегментация коннекторов: разделение тестовых и производственных сред. Ограничение ИИ почтовыми ящиками и календарями в песочнице.
- Надежные утверждения: отключить функции автоутверждения; требовать 2FA и мультиподпись для действий, касающихся казначейства и разрешений.
- Фильтры на контент: блокировать или очищать приглашения и внешние документы, обнаруживая аномальные запросы до того, как они достигнут агента.
- Минимальные привилегии: предоставлять AI только минимально необходимые разрешения, регулярно меняя токены и ключи.
- Мониторинг: оповещения в реальном времени о аномальных действиях и журналы, доступные для жюри.
- Тестирование red-teaming: периодические кампании по моделированию (например, вредоносные приглашения в календарь) с отчетом для управления.
- План действий при инцидентах: четкие процедуры для отзыва коннекторов, изоляции ИИ и своевременного уведомления заинтересованных сторон.
Мини‑FAQ
- Что демонстрирует эксплойт MCP через приглашение в календарь? Он демонстрирует, что один контент может содержать подсказку, способную направлять агента AI, подключенного к реальным инструментам, с воздействием на конфиденциальность и оперативную целостность.
- Что такое «человеческое жюри», поддерживаемое ИИ? Это механизм, в котором люди принимают окончательные решения, используя ИИ для анализа и исследований, особенно когда на кону деньги или разрешения.
- Что такое инфо-финансы? Это форма управления, в которой политики и структуры конкурируют на открытом рынке, но операции с высоким риском остаются подвержены человеческому контролю и регулярным аудитам.
- Как сегодня защищаются казначейства? С помощью использования multi‑sig, операционных лимитов, разделения ролей и человеческой жюри, которая подтверждает транзакции, новые интеграции и изменения разрешений.
Последствия и на что обратить внимание в ближайшие месяцы
Безопасность — это не только технический вопрос; она требует процессов, прозрачности и проверяемой ответственности. Как подчеркивает Бутерин, проблема jailbreaking не является бинарной, в то время как феномен Goodharting представляет собой тонкую форму метрического «мошенничества». В условиях растущей автоматизации инфо-финансы, поддерживаемые человеческим жюри, выступают в качестве прагматичного парашюта для снижения рисков в казначействе и критических решениях.




