Створено візерунок, який може обдурити системи розпізнавання облич

В Університеті Меріленда в США розробили светр-невидимку для систем розпізнавання зображень та осіб. Розроблений принт для одягу дозволяє обманювати нейромережі та системи машинного навчання. Спочатку його створили для пошуку вразливостей у таких системах. В основі цього лежить принцип, який називається змагальною атакою (adversarial attack). Суть його в тому, щоб обдурити нейромережу та змусити її видати некоректний результат.

Зображення було сформовано за допомогою великого набору даних, після чого його нанесли на светр. При виявленні людини переглядали, щоб оцінити, наскільки шаблон знижує розпізнавання. У результаті вдалося створити візерунок, який перешкоджає розпізнаванню людей. Поки що це працює із системою YOLOv2.

Зображення схоже на роботи художників-імпресіоністів і виглядає розмитим. Однак, зважаючи на все, це працює. Сам шаблон для светри-невидимки створювали за допомогою набору даних Common Objects in Context (COCO). У списку його є понад 330 тисяч зображень, які містять понад 1,5 мільйона об’єктів. А раніше російські вчені створили систему комп’ютерного зору, здатну розпізнавати будь-які об’єкти зображення з відеокамер. Джерело