Исследователь в области безопасности из Канзас-Сити провел год, снова и снова выполняя один и тот же тест, надеясь создать нечто, что сможет тихо перехитрить камеры наблюдения на улицах США. Результатом стал набор камуфляжных паттернов на основе ИИ, которые, будучи напечатанными на одежде или нанесенными на автомобиль, как будто останавливают работу систем наблюдения, мешая программному обеспечению распознавать то, на что оно смотрит. Билл Свиринджен называет проект noRecognition, и его первая публичная проверка прошла на Def Con в Лас-Вегасе.
Summary
Ключевые выводы
- Проект noRecognition Билла Свиринджена использует камуфляжные паттерны на основе ИИ, разработанные для того, чтобы помешать программному обеспечению камер наблюдения идентифицировать людей, лица или транспортные средства.
- Паттерны победили все 11 алгоритмов обнаружения с открытым исходным кодом, которые тестировал Свиринджен, включая ПО, связанное с распознавателями номерных знаков Flock, нагрудными камерами Axon и Clearview AI.
- На обучение модели генерации стабильно эффективных паттернов ушло примерно 31 миллион тестовых прогонов.
- Первая публичная демонстрация состоялась в пятницу на Def Con, где обклеенный паттерном Toyota Yaris 2009 года проехал мимо камеры Flock и не был зафиксирован.
- Паттерны покрывают кузов автомобиля, а не номерные знаки — это осознанный выбор, призванный обойти законы о сокрытии номерных знаков.
Камуфляж на основе ИИ для обхода камер наблюдения
noRecognition работает, используя разрыв между человеческим и машинным зрением: пленка, которая для человека выглядит как громкий графический дизайн, для алгоритма обнаружения может вообще не зарегистрироваться. Этот разрыв — основа проекта Свиринджена и причина, по которой паттерны важны, а не сводятся к одному roadside-трюку.
Проект noRecognition и технический подход
Свиринджен, сооснователь митапа по безопасности SecKC, создал noRecognition, используя модель обучения с подкреплением, которая по сути сама себе выставляет оценки. Паттерн обнаруживается — модель корректируется и пробует снова, в цикле, который Свиринджен описывает как обучение системы тому, «как рисовать». По данным TechCrunch, он начал с лабораторного proof-of-concept, который поочередно побеждал один алгоритм обнаружения с открытым исходным кодом за другим, а затем нарастил вычислительные мощности, чтобы в течение года улучшать результаты.
По данным Decrypt, этот процесс в итоге прошел через 31 миллион тестов, прежде чем Свиринджен смог стабильно генерировать эффективные паттерны по запросу. Результат: все 11 алгоритмов обнаружения с открытым исходным кодом, которые он тестировал, были побеждены паттернами, включая технологии, лежащие в основе распознавателей номерных знаков Flock, нагрудных камер Axon и Clearview AI. Сейчас он говорит, что модель может выдавать новые паттерны примерно каждую минуту, и он намеренно держит самые сильные из них в офлайне, чтобы производители камер не могли обучить свои системы противодействию им.
Публичная демонстрация на Def Con
Идея перешла от лабораторного эксперимента к реальному доказательству в пятницу, когда Свиринджен совместно с YouTube-каналом Donut Media обклеил один из своих новых паттернов на Toyota Yaris 2009 года и проехал мимо камеры Flock на Def Con. TechCrunch описал это как первый публичный тест применения паттерна к автомобилю, и он показал, что камуфляжные паттерны на основе ИИ могут работать и вне контролируемой тестовой среды, а не только в симуляции.
Мотивация, связанная с приватностью, и контекст
Для Свиринджена проект — не просто техническое упражнение, а ответ на то, что он считает неконтролируемым расширением систем наблюдения. «Конфиденциальность — это фундаментальное право», — сказал он журналистам, описывая паттерны как способ для людей «отказаться от отслеживания».
Права на приватность и опасения по поводу слежки
Свиринджен рассказал, что идея закрепилась в прошлом году, когда он захотел принять участие в протесте, но его начала беспокоить численность камер, которые могли бы зафиксировать всех присутствующих. Он откровенно признает, что как белый мужчина среднего возраста, живущий в центральной части США, он лично не сталкивался с тем уровнем пристального внимания или дискриминации, с которым могут сталкиваться другие. Но он утверждает, что если даже ему было не по себе, то другие люди, реализующие свое право на свободу выражения, вероятно, чувствовали то же самое — или даже хуже.
Это одна из причин, почему история важна и за пределами домашней лаборатории одного исследователя: она напрямую попадает в центр продолжающейся дискуссии об автоматизированном наблюдении в США. Flock описывается как спорная система наблюдения, которая сейчас внедряется по всей стране и вызывает критику далеко за пределами сообществ, занимающихся приватностью. Внутренние документы, на которые ссылаются журналисты, показывают, что компания предлагала превратить 350 000 видеорегистраторов Uber и Lyft в подвижный флот сканеров номерных знаков — план, который подогрел негативную реакцию на Капитолийском холме.
Существующие противодействующие попытки обойти обнаружение
noRecognition — не первая попытка обойти алгоритмическое обнаружение, но он нацелен на более конкретный список систем, чем большинство предшественников. Активисты в Сан-Франциско ставили дорожные конусы на капоты роботакси Waymo и Cruise, чтобы обездвижить их — без какого-либо кода. Во время прошлогодних иммиграционных рейдов в Лос-Анджелесе некоторые протестующие зашли дальше и подожгли несколько автомобилей Waymo. Маски, капюшоны и кепки с козырьком остаются стандартным снаряжением на протестных линиях, а бренды, выпускающие «адверсариальную» одежду, уже много лет продают принты, сбивающие с толку системы распознавания лиц, хотя «анти-распознающие» очки показали мало доказательств своей эффективности.
Отличие подхода Свиринджена — в точности: вместо общего «анти-распознающего» трюка noRecognition тестировался против конкретных стеков обнаружения, уже развернутых в масштабах, включая программное обеспечение, работающее внутри сети камер Flock.
Юридические и практические аспекты
Оклейка автомобиля адверсариальным паттерном поднимает юридический вопрос, который не связан с алгоритмом, а связан с дорожными правилами. Законы о сокрытии номерных знаков различаются от штата к штату, и Свиринджен строил проект, исходя из этой реальности, а не вопреки ей.
Покрытие кузова автомобиля для обхода законов о сокрытии номеров
Паттерны noRecognition наносятся на кузов, а не на номерные знаки — это осознанное решение, призванное уберечь проект от юридических проблем, связанных с сокрытием номера. Это узкое, но важное различие: технология нацелена на то, как камеры классифицируют формы и объекты, а не на видимость самого номерного знака, на чем сосредоточено большинство существующих законов о сокрытии.
Продолжающиеся юридические и приватностные споры вокруг наблюдения
Более широкий юридический и политический фон не замедляется. Автоматические распознаватели номерных знаков уже в документированных случаях приводили к тому, что невиновных водителей останавливали под прицелом оружия, а иммигранты и протестующие попадали в федеральные сети наблюдения на основе ИИ, связанные с ICE. Законодатели отдельно оказывают давление на Meta из-за функций распознавания лиц, встроенных в ее «умные» очки, — параллельная борьба, показывающая, насколько пристальное регуляторное внимание сейчас привлекают алгоритмические системы обнаружения.
Почему это важно: по мере того как инструменты автоматизированного обнаружения множатся в сфере полицейской и частной охраны, инструменты, специально созданные для их обхода — даже если они подаются как законные средства защиты приватности — оказываются в центре правовой «серой зоны», которую регуляторы еще не успели четко очертить.
Свиринджен не останавливается на Def Con. noRecognition проводит краудфандинговую кампанию по выпуску раннего мерча, начиная с футболок и худи и постепенно переходя к пленкам для автомобилей, с заявленной целью сохранить достаточно высокое разрешение, чтобы паттерны работали на расстоянии, и при этом сделать дизайн таким, который люди действительно захотят носить. «Каждый провал улучшает мою модель, и поэтому паттерны становятся все лучше и лучше», — сказал Свиринджен — фраза, которая одновременно служит предупреждением для производителей камер, наблюдающих за этой гонкой вооружений в режиме реального времени.
FAQ
Что такое проект noRecognition?
noRecognition — это система на основе ИИ, разработанная Биллом Свириндженом, которая генерирует паттерны, предназначенные для предотвращения обнаружения людей, лиц или транспортных средств программным обеспечением камер наблюдения.
Насколько эффективны паттерны noRecognition против камер наблюдения?
Паттерны победили 11 алгоритмов обнаружения с открытым исходным кодом, включая программное обеспечение, используемое Flock, нагрудными камерами Axon и Clearview AI, после примерно 31 миллиона тестов в ходе разработки.
Законно ли ездить на автомобилях, обклеенных такими камуфляжными паттернами на основе ИИ?
Паттерны покрывают кузов автомобиля, а не номерные знаки, специально для того, чтобы избежать проблем с законами о сокрытии номеров, хотя общая законность эксплуатации такого автомобиля зависит от конкретного штата.
Что мотивировало создание noRecognition?
Билл Свиринджен говорит, что создал noRecognition, чтобы люди могли «отказаться от отслеживания» системами наблюдения — обеспокоенность, которая впервые возникла у него, когда он подумывал посетить протест под плотным покрытием камер.
{«@context»:»https://schema.org»,»@type»:»FAQPage»,»mainEntity»:[{«@type»:»Question»,»name»:»Что такое проект noRecognition?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»noRecognition — это система на основе ИИ, разработанная Биллом Свириндженом, которая генерирует паттерны, предназначенные для предотвращения обнаружения людей, лиц или транспортных средств программным обеспечением камер наблюдения.»}},{«@type»:»Question»,»name»:»Насколько эффективны паттерны noRecognition против камер наблюдения?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Паттерны победили 11 алгоритмов обнаружения с открытым исходным кодом, включая программное обеспечение, используемое Flock, нагрудными камерами Axon и Clearview AI, после примерно 31 миллиона тестов в ходе разработки.»}},{«@type»:»Question»,»name»:»Законно ли ездить на автомобилях, обклеенных такими камуфляжными паттернами на основе ИИ?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Паттерны покрывают кузов автомобиля, а не номерные знаки, специально для того, чтобы избежать проблем с законами о сокрытии номеров, хотя общая законность эксплуатации такого автомобиля зависит от конкретного штата.»}},{«@type»:»Question»,»name»:»Что мотивировало создание noRecognition?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Билл Свиринджен говорит, что создал noRecognition, чтобы люди могли «отказаться от отслеживания» системами наблюдения — обеспокоенность, которая впервые возникла у него, когда он подумывал посетить протест под плотным покрытием камер.»}}]}
Статья подготовлена при содействии искусственного интеллекта и проверена редакционной командой.
