TL;DR: Эта простая наклейка превратит ваш банан в тостер (для системы #DeepLearning)
(Хорошо, это немного упрощенно, но это не так далеко.)
Дело в том, что мы уже давно знаем, что классификацию изображений можно взломать (например, страшилки про знаки Стоп, школьные автобусы и т. д.). На самом деле, есть некоторые свидетельства того, что эта «взломоспособность присуща процессу», своего рода принцип неопределенности, если хотите.
Большая часть работы до сих пор была сосредоточена на малых возмущениях, таких вещах, которые были бы невидимы для человеческого глаза, но могли бы обмануть классификаторы изображений. Такие вещи, как манипулирование оттенками пикселей, квазистеганографические изменения и т. д. классификатор (•)
Есть новая работа Brown et al. это делает вещи совсем по-другому — они создают довольно большие стикеры (10% от размера фактического объекта или больше), которые в значительной степени заставляют классификатор выдавать неправильный ответ.
Как?
Похоже, что для классификатора наклейка важнее классифицируемого объекта! Другими словами, ваша система глубокого обучения смотрит на изображение и говорит: да, там может быть банан, БЛЯДЬ, ЭТО ТОСТЕР, потому что наклейка кричит тостерность намного больше, чем банан кричит бананность.
Часть, которая делает это действительно захватывающим, заключается в том, что это работает при самых разных условиях освещения, углах и т. Д. Потому что, ну, вот как работает машинное обучение 😇
Веселые времена впереди!!!
(•) Я сказал «квази», потому что нас не удивляет, что люди носят очки 😀
