Введение В быстро расширяющемся мире машинного обучения и искусственного интеллекта растет потребность в установлении и проверке происхождения той или иной модели. Здесь в игру вступает водяной знак. Подобно художнику, подписывающему свою работу, инженер по машинному обучению может поставить «невидимую подпись» или водяной знак на свою модель. Это может помочь установить авторство, проверить происхождение модели и предотвратить несанкционированное использование. В этой статье будут..

В этой статье будут представлены основные концепции состязательных атак на высоком уровне. Объяснил базовые знания, несколько типов атак, как создавать состязательные примеры. Кроме того, представлены несколько реальных примеров атак и экспериментальные усилия по их предотвращению. Базовые знания В последнее десятилетие технологии машинного обучения стремительно развиваются. Поскольку все больше и больше случаев использования в реальном мире, таких как распознавание изображений,..

Сверточные нейронные сети (CNN) сломаны, но на недавней конференции ICLR, наконец, появились некоторые подходы к их исправлению. Недавним примером проблем CNN стала демонстрация состязательной атаки на автономное вождение¹, при которой небольшие маркеры на дороге могли заставить автономное транспортное средство свернуть на встречное движение. С тех пор, как Иэн Гудфелло привел пример ² незаметного фонового шума, заставляющего CNN неверно классифицировать изображения, количество случаев..

До недавнего времени основной движущей силой машинного обучения было создание все более точных моделей. Примерно в 2013 году машинное обучение начало достигать производительности человеческого уровня в нескольких тестовых задачах. Например, в области изображений модели машинного обучения могут распознавать изображения лучше, чем человеческая точность. Модели машинного обучения также используются для распознавания речи, задач НЛП, игр и т. Д. В то время практически не уделялось внимания..