Война с Deepfakes: новый и эффективный способ обнаружения поддельных изображений
Рентген лица для более общего обнаружения подделок лица
Это резюме исследования - лишь одно из многих, которые еженедельно распространяются в информационном бюллетене для ученых в области ИИ. Чтобы начать получать еженедельную рассылку, зарегистрируйтесь здесь.
Хотя ИИ принес нам много успехов, он также способствовал цифровому олицетворению. В сочетании с программами картирования лиц алгоритмы машинного обучения позволяют дешево и легко изменять личность людей, включая лицо, голос и тело. В частности, дипфейки используют лица людей без их согласия, что позволяет любому человеку сфабриковать людей, чтобы они говорили или делали то, чего они не делали, что пугает и разрушает.
С такой способностью синтезировать реалистичные лица для людей становится невозможным определить, было ли изображение обработано или нет. Кроме того, сфабрикованный контент может использоваться в злонамеренных целях, вызывая серьезные проблемы с доверием и проблемы безопасности в нашем глобальном обществе. Поэтому крайне важно разработать эффективные методы обнаружения подделок лица.
Большинство существующих детекторов манипуляций с лицом работают под контролем с помощью методов, которые обучены известным техникам манипуляции с лицом. Таким образом, они могут достигать точности обнаружения 98%. Но такие методы страдают от переобучения, и их эффективность, таким образом, ограничивается конкретными методами, которым они обучены. Применительно к подделкам, создаваемым невидимыми методами манипуляции лицом, эти методы ужасно терпят неудачу.
Обнаружение подделок на изображениях лиц с помощью рентгеновского снимка лица
Новое исследование ученых из Пекинского университета и Microsoft Research Asia представило Face X-ray, представление изображения для обнаружения подделки на изображениях лиц, которое значительно превосходит современные методы.
Исследователи сосредотачиваются на проблеме обнаружения подделок лиц, таких как те, которые создаются текущими алгоритмами манипулирования лицами, включая DeepFakes, Face2Face, FaceSwap и NeuralTexture.
В отличие от существующих детекторов подделки, Face X-ray предполагает наличие этапа смешивания и не полагается на какие-либо знания об артефактах, связанных с определенной техникой манипуляции лицом. Для входного изображения лица рентгеновский снимок лица - это изображение в градациях серого, которое можно надежно вычислить на основе входных данных. Это изображение в градациях серого не только определяет, является ли изображение лица поддельным или настоящим, но также определяет местоположение границы смешивания, если она существует.
Возможное использование и эффекты
Посмотрим правде в глаза, обнаружение подделки лиц становится все более сложной задачей. Рентгеновский снимок лица обеспечивает исключительно высокую точность обнаружения невидимых подделок лиц, а также способность надежно прогнозировать рентгеновские лучи лица и, следовательно, является значительным шагом вперед в направлении разработки общего детектора подделок лиц.
Фреймворк остается эффективным при применении к подделкам, созданным с помощью невидимого метода манипуляции лицом, в то время как большинство существующих алгоритмов обнаружения подделки лиц испытывают значительное снижение производительности.
Уровень универсальности рентгеновского снимка лица охватывает большинство существующих алгоритмов манипуляции лицом. Более того, алгоритм расчета рентгеновского снимка лица может быть обучен путем самостоятельного обучения с использованием большого количества смешанных изображений, составленных из реальных, без поддельных изображений, созданных с помощью любого из самых современных методов манипулирования лицом.
Подробнее: Рентген лица для более общего обнаружения подделок лица
