Создан узор для одежды, который может обмануть системы распознавания лиц

Его разработали в США

В Университете Мэриленда в США разработали «свитер-невидимку» для систем распознавания изображений и лиц. Разработанный принт для одежды позволяет обманывать нейросети и системы машинного обучения. Изначально его создали для поиска уязвимостей в таких системах. В основе этого лежит принцип, который называется «состязательной атакой» (adversarial attack). Суть его в том, чтобы обмануть нейросеть и заставить её выдать некорректный результат.

Создан узор для одежды, который может обмануть системы распознавания лиц

Изображение было сформировано с помощью большого набора данных, после этого его нанесли на свитер. При обнаружении человека эти данные пересматривали, чтобы оценить, насколько шаблон снижает распознавание. В итоге удалось создать узор, который препятствует распознаванию людей. Пока что это работает с системой YOLOv2.

Получившееся изображение похоже на работы художников-импрессионистов и выглядит размытым. Однако, судя по всему, эта методика работает. Сам шаблон для «свитера-невидимки» создавали с помощью набора данных Common Objects in Context (COCO). В списке для формирования шаблона есть более 330 тысяч изображений, которые содержат более 1,5 миллиона объектов.

А ранее российские учёные создали систему компьютерного зрения, способную распознавать любые объекты на изображении с видеокамер.

30 октября 2022 в 12:23

Автор:

| Источник: Hackaday

43 комментария

m
То, что обманет одну систему не обязательно обманет другую и даже первую, если ее модифицируют. Хотя есть некие общие принципы, затрудняющие определение.
I
ну так новый свитерок извольте купить
B
Бесполезно менять свитер, если система заточена именно на лица!
Обратите внимание на некрасивую манипуляцию на фото: Нейросеть выделяла не лица, а тела (!) и головы ВМЕСТЕ Это — не система распознавания ЛИЦ. По этому свитер и мог повлиять.
Это фейк, или целенаправленная деза.
Типа «носите-носите свитер лохи, мы все равно вас видим».
--
Стоит переучить нейросеть выделять только голову, как вся одежда становится бессмысленной.
Приходим к тому, что против «умной» видеосистемы — только большая маска, парик или грим.
Да здравствует лицедейство. Весь мир — театр.
m
Можно как раз затруднить выделять голову, система же не просто так ее выделяет, а на фоне чего-то.
L
Система действительно заточенная на голову на свитер и не посмотрит, хз что они там обманули.
m
Системе еще надо «понять» где свитер, а где голова.
c
Свитера на голове нет, для системы это не проблема.
s
При обнаружении человека эти пересматривали, чтобы оценить, насколько шаблон снижает распознавание.
Эти йети? Они то как вписались? :))
v
Эти видишь? А они есть!
S
Через недельку нейросеть переобучат и свитер не поможет.
V

Ответ Serded на комментарий
Через недельку нейросеть переобучат и свитер не поможет.

Не через недельку. Сначала напродают свитеров, а потом уже переобучат. Бизнес!
s
Нужен костюм как в фильме «Помутнение» с Киану Ривзом. Там правда у главного героя в результате крыша поехала — перестал понимать кто он.
k
Человек-то не всегда может распознать лицо в сложных условиях. Что же говорить про крайне примитивную нейросеть? Кстати сказать, в нее исходно заложена какая-то, достаточно значительная, вероятность ошибки, процентов 5 минимум.
L
Примитивная нейросеть распознает 7 млрд людей, вы так можете?
N
Запомнить — нет, распознать — да.
B
Человеческий мозг тоже требует обучения (внезапно). По этому, лица людей незнакомой расы поначалу кажутся одинаковыми. «с ходу» — даже распознать будет трудно.
По мере «обучения» — все становится на свои места.
k
Тем не менее, выделить лица людей даже незнакомой расы любой человек может легко.
Вот с рептилоидами могут быть проблемы, да.
D
Ну негра она и без такого узора не распознала=))
P
Надо научить нейросеть распознавать по этому свитеру хитрецов, которые не хотят распознаваться, и пусть их полиция распознаёт вручную.
X
>>При обнаружении человека эти пересматривали
Точно эти? Не те?
М
Я это фото видел еще лет 5 назад.
«Свежие» новости, однако!
Не поленился, и нашел ту новость на оригинальном сайте, а не на «хакадей», который криво перевел «автор»
Сайт датирован 2018 годом.
https://www.cs.umd.edu/~tomg/projects/invisible/
a
Но про аплейт систем распознавания, которых эта одежда не обманет — публике уже не скажут.
И те, кто вешал CD в авто «для защиты от радара» купят эту одежку и будут считать себя защищенными :)
U
Возможно фон тоже играет роль. На фоне других людей его может не распознать, а без людей узнает.
B
Где купить свитер или скачать изображение?
54610737@vkontakte
в результате создали костюм цыпленка
54610737@vkontakte
это подстава, людей в таком свитере будут сразу брать фараоны
g
А если этот принт станет модным, и таких людей будут десятки тысяч… )
М
В общем, старая добрая накладная борода и кепка с очками — тренд на века))))
В
Тут видимо, проблема в том, что человек для системы что-то типа «палка, палка, огуречик». Т.е. просто голова не определяется без прочего комплекта признаков. Вероятно, изначально система вычленяет объект «человек» по признакам «руки-ноги-тело-голова», а только потом запускается распознавание лиц. Т.е. обман системы в том, что она буксует на этапе определения объекта из-за неполного набора признаков, ну т.е. отсутствует «тело» ввиду размытия его контура. Соответственно, нет тела — нет человека, к распознаванию лиц не переходим. Конечно, можно создать программу, которая целенаправленно будет «искать» головы вне зависимости от прочего комплекта конечностей, но, думаю, такая программа будет более громоздкой и с более низким КПД.
Проблема современных программ ИИ в их довольно узкой специализации, т.е. либо отличаем только белое от черного, либо горячее от холодного, либо А от Б. Но вот чтобы и то, и другое, и третье, тут без настоящего ИИ можно только путем объединения разных блоков распознавания в нечто громоздкое и тормозное.
Повод гордится таким сложным устройством, как человеческий мозг, который за доли секунды распознает окружающий мир по сотням и тысячам параметров, может анализировать происходящее и выдавать прогнозы событий.
f
Бред. Возмите любой телефон с распознаванием лиц и сверху (с макушки модели) опускайте объектив ниже — увидите, что лицо определится до вхождения тела в кадр
В
Вы путаете распознавание наличия лица на позирующих для фото людях и на обработке видеоряда в реальном времени, когда люди движутся одновременно в разных направлениях, под разными углами, на разных расстояниях от камеры, причем задача то стоит не просто определить, что у объекта есть лицо, но и перейти к сканированию этого лица с целью идентификации личности.
Причем, мы говорим о системе обмана программы, о уязвимости в ее работе, распознавание лиц в фотокамере тоже не всегда срабатывает корректно.
B
«Тут видимо, проблема в том, что человек для системы» — а назвали почему-то систему «распознавания лиц», а не «распознавания человека».
И, да, любую обученную нейросеть можно обмануть, подобрав «нечто не совсем такое».
Более того, одна и та же нейросеть, обученная разными выборками, будет распознавать одни и те же объекты с разными ошибками.
--
«Повод гордится таким сложным устройством, как человеческий мозг, который за доли секунды распознает окружающий мир» — да не очень-то… по картинам -то сюрреалистов. :-)
109253131066166570974@google
Говорит дофига рисунков на свитере, нафиг не буду распозновать)
D
Проще ходить в обычной медицинской маске и косить под перестраховщика ОРВИ ))
E
Как было сформированно изображение изьбольшого набора данных?
G
Вот ведь, сам чтоб запутать/обмануть московскую систему распознавания лиц -> давно прикупил себе футболочку с принтом, называется то ли «Вечерний полёт», то ли «Ночной полëт» от Васи Ложкина (не реклама если что, ну кто знает тот поймëт)… -> и собянинский ИИ (также не реклама если чë) ) явно давно уже определяет меня «пушистым котиком», ну может быть с чуть распятыми лапами))
По крайней мере, попадалова, пока не было -> знать, работает!

Добавить комментарий

Все новости за сегодня

Календарь

октябрь
Пн
Вт
Ср
Чт
Пт
Сб
Вс