Распространение дипфейков, гиперреалистичных видео или изображений, созданных искусственным интеллектом, вызвало обеспокоенность и опасения по поводу возможности неправомерного использования и манипуляций. Хотя технология, стоящая за дипфейками, существует уже несколько лет, последние достижения в области машинного обучения сделали их более убедительными и трудными для обнаружения. Дипфейки использовались для самых разных целей, от создания поддельного порно со знаменитостями до распространения пропаганды или дезинформации. По мере того, как дипфейки становятся все более изощренными и доступными, растет беспокойство по поводу их влияния на общество.

Как делают дипфейки

Дипфейки генерируются с использованием алгоритмов глубокого обучения, которые анализируют и имитируют манеры, выражение лица и речь человека. Процесс включает в себя два ключевых этапа: обучение модели глубокого обучения на большом наборе данных изображений или видео и использование этой модели для создания новых искусственных изображений или видео.

1. Обучение модели глубокого обучения. Первый шаг в создании дипфейка включает в себя обучение модели глубокого обучения на большом наборе изображений или видео человека, чье подобие должно быть воспроизведено. Этот набор данных используется для обучения модели распознаванию и имитации выражений лица, манер и речевых моделей человека. Чем больше набор данных, тем точнее и убедительнее будет дипфейк.

2. Создание дипфейка: после обучения модели глубокого обучения ее можно использовать для создания нового искусственного видео или изображения. Процесс включает в себя подачу модели входного видео или изображения другого человека, а затем его изменение в соответствии с выражением лица и манерами человека в наборе обучающих данных. Результатом является гиперреалистичное видео или изображение, которое выглядит как человек из обучающего набора данных.

Чтобы создать убедительный дипфейк, алгоритму требуется большой объем данных, включая несколько ракурсов и условий освещения, чтобы получить реалистичный результат. Создание дипфейков занимает много времени и требует знаний алгоритмов глубокого обучения и методов машинного обучения. В результате появились различные инструменты и программное обеспечение, упрощающие создание дипфейков для неспециалистов.

Влияние дипфейков

Распространение дипфейков вызвало опасения по поводу их потенциального воздействия на общество. Вот несколько примеров того, как дипфейки могут использоваться или использовались, а также потенциальный вред, который они могут причинить:

1. Дезинформация и недоверие. Дипфейки могут использоваться для распространения ложной или вводящей в заблуждение информации, которая представляет угрозу достоверности реальных источников новостей и может вызвать замешательство и недоверие. Дипфейки также могут использоваться для выдачи себя за реальных людей, потенциально влияя на выборы или социальный дискурс. Например, дипфейковое видео политического деятеля может быть создано для распространения пропаганды или ложной информации. Не так давно через несколько дней после вторжения России в Украину было опубликовано дипфейковое видео президента Украины Зеленского, призывающего украинцев сдаться, которое, как позже выяснилось, было дипфейком, вероятно, созданным российским правительством.

Полное видео можно найти здесь: https://www.youtube.com/watch?v=X17yrEV5sl4

2. Месть и киберзапугивание. Дипфейки могут использоваться для создания порнографии без согласия, в которой изображение человека накладывается на чье-то тело. Это может нанести значительный вред человеку и его репутации. Дипфейки также могут использоваться для киберзапугивания или шантажа, нанося существенный психологический вред жертве.

3. Конфиденциальность и безопасность. Дипфейки представляют серьезную угрозу конфиденциальности и безопасности. Например, преступники могут использовать дипфейки, чтобы выдавать себя за людей и получать доступ к их личным данным, финансам или другой конфиденциальной информации. Кроме того, дипфейки могут использоваться для создания фальшивых удостоверений личности, что затрудняет проверку подлинности личной информации или документов, удостоверяющих личность.

4. Реклама. Были случаи, когда для продвижения товаров без их ведома и согласия создавались дипфейковые видеоролики со знаменитостями. В самом последнем видео, которое я видел, популярный подкастер Джо Роган рекламирует некоторые добавки, о которых он, вероятно, даже не слышал.

Пример такого видео можно найти в Твиттере по следующей ссылке:

https://twitter.com/crawfordjamesk/status/1624883783521513477

Это может показаться хитрым маркетинговым ходом, но я очень сомневаюсь, что это законно, поскольку нарушает право распоряжаться собственным имиджем. Кроме того, использование технологии дипфейка для обмана потребителей и выдачи ложных одобрений может быть сочтено мошенничеством и потенциально может привести к судебному преследованию.

Обнаружение и предотвращение дипфейков

Дипфейки становятся все более изощренными, и их становится все труднее отличить от настоящих видео или изображений. Однако исследователи и разработчики работают над созданием инструментов и методов для обнаружения и предотвращения дипфейков. Вот несколько примеров современных методов обнаружения и предотвращения:

1. Цифровая криминалистика. Цифровая криминалистика — это область исследований, которая фокусируется на определении источника цифровых медиа, таких как изображения или видео. Анализируя цифровой след изображения или видео, эксперты-криминалисты могут определить, были ли они подделаны или это дипфейк.

2. Алгоритмы машинного обучения. Поскольку дипфейки генерируются с использованием алгоритмов машинного обучения, исследователи используют аналогичные алгоритмы для их обнаружения. Эти алгоритмы анализируют выражения лица, движения и речевые паттерны в видео или изображении, чтобы определить, является ли оно реальным или дипфейком.

3. Образование и осведомленность. Одним из наиболее эффективных способов предотвращения распространения дипфейков является образование и осведомленность. Информируя людей о потенциальном вреде, причиняемом дипфейками, и предоставляя им инструменты и ресурсы для их выявления, можно уменьшить их влияние на общество.

Будущее дипфейков: вызовы и последствия

Хотя в настоящее время обнаружить дипфейки все еще относительно просто, я видел, как многие люди влюбляются в них, и это подчеркивает необходимость дальнейших усилий по обнаружению и предотвращению дипфейков. Кроме того, по мере того, как технологии и методы создания дипфейков становятся все более совершенными, становится все труднее отделять дезинформацию от фактов.

Также вероятно, что вскоре обычные люди смогут создавать высококачественные дипфейки без какого-либо понимания машинного обучения или лежащих в их основе технологий. В результате одним из неизбежных последствий является дальнейшее снижение доверия к источникам информации, что может привести к снижению доверия к учреждениям и средствам массовой информации.

Дополнительные материалы на PlainEnglish.io.

Подпишитесь на нашу бесплатную еженедельную рассылку новостей. Подпишитесь на нас в Twitter, LinkedIn, YouTube и Discord .

Заинтересованы в масштабировании запуска вашего программного обеспечения? Ознакомьтесь с разделом Схема.