Когда несколько лет назад порно со знаменитостями и другие дипфейки стали вирусными, они застали мир в значительной степени неподготовленным - мало кто мог поверить, насколько убедительно искусственный интеллект создавал фальшивые изображения. С тех пор мы стали свидетелями многочисленных прорывов в алгоритмах синтеза изображений и технологиях синтеза лиц и их замены, которые стали возможны благодаря генеративным состязательным сетям (GAN), что сделало дипфейки еще более правдоподобными. Тем временем правительственные и другие органы изо всех сил пытаются наверстать упущенное - ищут способы противодействовать злонамеренному распространению дипфейков, которые теперь настолько реалистичны, что их трудно, если не невозможно, обнаружить человеческим глазом.

Команда исследователей из Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (CSAIL) предложила новую модель, которая предназначена для обнаружения дипфейков, глядя на тонкие визуальные артефакты, такие как текстуры в волосах, фоне и на лицах, и визуализируя области изображения там, где они есть. обнаруженные манипуляции.

Команда отметила, что по мере того, как методы синтеза изображений SOTA продолжают развиваться в соответствии с новыми алгоритмами синтеза, критически важно, чтобы методы обнаружения поддельных изображений не отставали, чтобы обеспечить эффективную и надежную идентификацию дипфейков, созданных с использованием таких новых методов. В связи с этим важно понимать, какие артефакты будут проверять детекторы фальшивых изображений, чтобы они оставались эффективными перед лицом постоянно развивающихся алгоритмов синтеза.

Исследователи сосредоточили свое внимание на изучении способности детекторов фальшивых изображений обобщать невидимые фальшивые изображения и определять, какие свойства фальшивых изображений обобщают для различных архитектур моделей, данных и вариантов обучения.

Команда приняла классификатор на основе патчей с ограниченными восприимчивыми полями для визуализации наиболее легко обнаруживаемых областей поддельных изображений. Сначала они предварительно обработали обучающие изображения классификатора, чтобы уменьшить различия в форматировании между реальными и поддельными входными изображениями, а затем обучили его полностью сверточным способом, усекая стандартную архитектуру глубокой сети после различных промежуточных уровней. Поскольку модель является полностью сверточной, исследователи могут сфокусировать ее воспринимающее поле на текстурах в небольших участках, поскольку это ограниченное воспринимающее поле предлагает естественный способ визуализировать паттерны, которые указывают на настоящие или поддельные изображения.

Исследователи протестировали свой подход на наборе синтетических наборов данных лиц, чтобы определить, какие классификаторы артефактов изучают, чтобы они могли обнаруживать поддельные изображения, созданные различными моделями. Они обнаружили, что более сложные участки, такие как волосы и фоновые области, как правило, лучше обнаруживаются в различных источниках синтетических изображений. Более того, даже когда генератор дипфейк-изображений злонамеренно настроен против классификатора фальшивых изображений, он все равно может оставлять обнаруживаемые артефакты на определенных участках изображения, где могут быть обнаружены явные ошибки.

Газета Что делает поддельные изображения обнаруживаемыми? Общие сведения о свойствах, которые обобщают, доступно на arXiv.

Репортер: Фаню Цай | Редактор: Майкл Саразен

Синхронизированный отчет | Обзор решений искусственного интеллекта в Китае в ответ на пандемию COVID-19 - 87 тематических исследований от 700+ поставщиков ИИ

В этом отчете предлагается взглянуть на то, как Китай использовал технологии искусственного интеллекта в борьбе с COVID-19. Он также доступен на Amazon Kindle. Наряду с этим отчетом мы также представили базу данных, охватывающую 1428 дополнительных решений искусственного интеллекта из 12 сценариев пандемии.

Нажмите здесь, чтобы найти больше отчетов от нас.

Мы знаем, что вы не хотите пропустить ни одной истории. Подпишитесь на наш популярный Synced Global AI Weekly, чтобы получать еженедельные обновления AI.