Создан узор для одежды, который может обмануть системы распознавания лиц

В Университете Мэриленда в США разработали «свитер-невидимку» для систем распознавания изображений и лиц. Разработанный принт для одежды позволяет обманывать нейросети и системы машинного обучения. Изначально его создали для поиска уязвимостей в таких системах. В основе этого лежит принцип, который называется «состязательной атакой» (adversarial attack). Суть его в том, чтобы обмануть нейросеть и заставить её выдать некорректный результат.

Изображение было сформировано с помощью большого набора данных, после этого его нанесли на свитер. При обнаружении человека эти данные пересматривали, чтобы оценить, насколько шаблон снижает распознавание. В итоге удалось создать узор, который препятствует распознаванию людей. Пока что это работает с системой YOLOv2.

Получившееся изображение похоже на работы художников-импрессионистов и выглядит размытым. Однако, судя по всему, эта методика работает. Сам шаблон для «свитера-невидимки» создавали с помощью набора данных Common Objects in Context (COCO). В списке для формирования шаблона есть более 330 тысяч изображений, которые содержат более 1,5 миллиона объектов.

А ранее российские учёные создали систему компьютерного зрения, способную распознавать любые объекты на изображении с видеокамер.

43 комментария

То, что обманет одну систему не обязательно обманет другую и даже первую, если ее модифицируют. Хотя есть некие общие принципы, затрудняющие определение.

Ответить

ну так новый свитерок извольте купить

Бесполезно менять свитер, если система заточена именно на лица!
Обратите внимание на некрасивую манипуляцию на фото: Нейросеть выделяла не лица, а тела (!) и головы ВМЕСТЕ Это — не система распознавания ЛИЦ. По этому свитер и мог повлиять.
Это фейк, или целенаправленная деза.
Типа «носите-носите свитер лохи, мы все равно вас видим».
--
Стоит переучить нейросеть выделять только голову, как вся одежда становится бессмысленной.
Приходим к тому, что против «умной» видеосистемы — только большая маска, парик или грим.
Да здравствует лицедейство. Весь мир — театр.

Можно как раз затруднить выделять голову, система же не просто так ее выделяет, а на фоне чего-то.

Система действительно заточенная на голову на свитер и не посмотрит, хз что они там обманули.

Системе еще надо «понять» где свитер, а где голова.

Свитера на голове нет, для системы это не проблема.

При обнаружении человека эти пересматривали, чтобы оценить, насколько шаблон снижает распознавание.
Эти йети? Они то как вписались? :))

Эти видишь? А они есть!

Через недельку нейросеть переобучат и свитер не поможет.

Ответ Serded на комментарий

Не через недельку. Сначала напродают свитеров, а потом уже переобучат. Бизнес!

Нужен костюм как в фильме «Помутнение» с Киану Ривзом. Там правда у главного героя в результате крыша поехала — перестал понимать кто он.

Человек-то не всегда может распознать лицо в сложных условиях. Что же говорить про крайне примитивную нейросеть? Кстати сказать, в нее исходно заложена какая-то, достаточно значительная, вероятность ошибки, процентов 5 минимум.

Примитивная нейросеть распознает 7 млрд людей, вы так можете?

Запомнить — нет, распознать — да.

Человеческий мозг тоже требует обучения (внезапно). По этому, лица людей незнакомой расы поначалу кажутся одинаковыми. «с ходу» — даже распознать будет трудно.
По мере «обучения» — все становится на свои места.

Тем не менее, выделить лица людей даже незнакомой расы любой человек может легко.
Вот с рептилоидами могут быть проблемы, да.

Ну негра она и без такого узора не распознала=))

Надо научить нейросеть распознавать по этому свитеру хитрецов, которые не хотят распознаваться, и пусть их полиция распознаёт вручную.

>>При обнаружении человека эти пересматривали
Точно эти? Не те?

Я это фото видел еще лет 5 назад.
«Свежие» новости, однако!
Не поленился, и нашел ту новость на оригинальном сайте, а не на «хакадей», который криво перевел «автор»
Сайт датирован 2018 годом.
https://www.cs.umd.edu/~tomg/projects/invisible/

Но про аплейт систем распознавания, которых эта одежда не обманет — публике уже не скажут.
И те, кто вешал CD в авто «для защиты от радара» купят эту одежку и будут считать себя защищенными :)

Возможно фон тоже играет роль. На фоне других людей его может не распознать, а без людей узнает.

Где купить свитер или скачать изображение?

в результате создали костюм цыпленка

это подстава, людей в таком свитере будут сразу брать фараоны

А если этот принт станет модным, и таких людей будут десятки тысяч… )

В общем, старая добрая накладная борода и кепка с очками — тренд на века))))

даже для женщин )

Тут видимо, проблема в том, что человек для системы что-то типа «палка, палка, огуречик». Т.е. просто голова не определяется без прочего комплекта признаков. Вероятно, изначально система вычленяет объект «человек» по признакам «руки-ноги-тело-голова», а только потом запускается распознавание лиц. Т.е. обман системы в том, что она буксует на этапе определения объекта из-за неполного набора признаков, ну т.е. отсутствует «тело» ввиду размытия его контура. Соответственно, нет тела — нет человека, к распознаванию лиц не переходим. Конечно, можно создать программу, которая целенаправленно будет «искать» головы вне зависимости от прочего комплекта конечностей, но, думаю, такая программа будет более громоздкой и с более низким КПД.
Проблема современных программ ИИ в их довольно узкой специализации, т.е. либо отличаем только белое от черного, либо горячее от холодного, либо А от Б. Но вот чтобы и то, и другое, и третье, тут без настоящего ИИ можно только путем объединения разных блоков распознавания в нечто громоздкое и тормозное.
Повод гордится таким сложным устройством, как человеческий мозг, который за доли секунды распознает окружающий мир по сотням и тысячам параметров, может анализировать происходящее и выдавать прогнозы событий.

Бред. Возмите любой телефон с распознаванием лиц и сверху (с макушки модели) опускайте объектив ниже — увидите, что лицо определится до вхождения тела в кадр

Вы путаете распознавание наличия лица на позирующих для фото людях и на обработке видеоряда в реальном времени, когда люди движутся одновременно в разных направлениях, под разными углами, на разных расстояниях от камеры, причем задача то стоит не просто определить, что у объекта есть лицо, но и перейти к сканированию этого лица с целью идентификации личности.
Причем, мы говорим о системе обмана программы, о уязвимости в ее работе, распознавание лиц в фотокамере тоже не всегда срабатывает корректно.

«Тут видимо, проблема в том, что человек для системы» — а назвали почему-то систему «распознавания лиц», а не «распознавания человека».
И, да, любую обученную нейросеть можно обмануть, подобрав «нечто не совсем такое».
Более того, одна и та же нейросеть, обученная разными выборками, будет распознавать одни и те же объекты с разными ошибками.
--
«Повод гордится таким сложным устройством, как человеческий мозг, который за доли секунды распознает окружающий мир» — да не очень-то… по картинам -то сюрреалистов. :-)

Говорит дофига рисунков на свитере, нафиг не буду распозновать)

Проще ходить в обычной медицинской маске и косить под перестраховщика ОРВИ ))

Как было сформированно изображение изьбольшого набора данных?

Вот ведь, сам чтоб запутать/обмануть московскую систему распознавания лиц -> давно прикупил себе футболочку с принтом, называется то ли «Вечерний полёт», то ли «Ночной полëт» от Васи Ложкина (не реклама если что, ну кто знает тот поймëт)… -> и собянинский ИИ (также не реклама если чë) ) явно давно уже определяет меня «пушистым котиком», ну может быть с чуть распятыми лапами))
По крайней мере, попадалова, пока не было -> знать, работает!

Создан узор для одежды, который может обмануть системы распознавания лиц

Его разработали в США

43 комментария

Добавить комментарий

Добавить комментарий

Все новости за сегодня

Календарь