В Университете Мэриленда в США разработали «свитер-невидимку» для систем распознавания изображений и лиц. Разработанный принт для одежды позволяет обманывать нейросети и системы машинного обучения. Изначально его создали для поиска уязвимостей в таких системах. В основе этого лежит принцип, который называется «состязательной атакой» (adversarial attack). Суть его в том, чтобы обмануть нейросеть и заставить её выдать некорректный результат.

Изображение было сформировано с помощью большого набора данных, после этого его нанесли на свитер. При обнаружении человека эти данные пересматривали, чтобы оценить, насколько шаблон снижает распознавание. В итоге удалось создать узор, который препятствует распознаванию людей. Пока что это работает с системой YOLOv2.
Получившееся изображение похоже на работы художников-импрессионистов и выглядит размытым. Однако, судя по всему, эта методика работает. Сам шаблон для «свитера-невидимки» создавали с помощью набора данных Common Objects in Context (COCO). В списке для формирования шаблона есть более 330 тысяч изображений, которые содержат более 1,5 миллиона объектов.
А ранее российские учёные создали систему компьютерного зрения, способную распознавать любые объекты на изображении с видеокамер.
43 комментария
Добавить комментарий
Обратите внимание на некрасивую манипуляцию на фото: Нейросеть выделяла не лица, а тела (!) и головы ВМЕСТЕ Это — не система распознавания ЛИЦ. По этому свитер и мог повлиять.
Это фейк, или целенаправленная деза.
Типа «носите-носите свитер лохи, мы все равно вас видим».
--
Стоит переучить нейросеть выделять только голову, как вся одежда становится бессмысленной.
Приходим к тому, что против «умной» видеосистемы — только большая маска, парик или грим.
Да здравствует лицедейство. Весь мир — театр.
Эти йети? Они то как вписались? :))
Ответ Serded на комментарий
Не через недельку. Сначала напродают свитеров, а потом уже переобучат. Бизнес!
По мере «обучения» — все становится на свои места.
Вот с рептилоидами могут быть проблемы, да.
Точно эти? Не те?
«Свежие» новости, однако!
Не поленился, и нашел ту новость на оригинальном сайте, а не на «хакадей», который криво перевел «автор»
Сайт датирован 2018 годом.
https://www.cs.umd.edu/~tomg/projects/invisible/
И те, кто вешал CD в авто «для защиты от радара» купят эту одежку и будут считать себя защищенными :)
Проблема современных программ ИИ в их довольно узкой специализации, т.е. либо отличаем только белое от черного, либо горячее от холодного, либо А от Б. Но вот чтобы и то, и другое, и третье, тут без настоящего ИИ можно только путем объединения разных блоков распознавания в нечто громоздкое и тормозное.
Повод гордится таким сложным устройством, как человеческий мозг, который за доли секунды распознает окружающий мир по сотням и тысячам параметров, может анализировать происходящее и выдавать прогнозы событий.
Причем, мы говорим о системе обмана программы, о уязвимости в ее работе, распознавание лиц в фотокамере тоже не всегда срабатывает корректно.
И, да, любую обученную нейросеть можно обмануть, подобрав «нечто не совсем такое».
Более того, одна и та же нейросеть, обученная разными выборками, будет распознавать одни и те же объекты с разными ошибками.
--
«Повод гордится таким сложным устройством, как человеческий мозг, который за доли секунды распознает окружающий мир» — да не очень-то… по картинам -то сюрреалистов. :-)
По крайней мере, попадалова, пока не было -> знать, работает!
Добавить комментарий