Как создаются дипфеки. Способы их выявления

Каждый пользователь, который серфит в интернете, видел дипфейки. Дипфейк – визуальные материалы, очень похожие на настоящие. Но на них люди делают вещи, которые на самом деле не сделали б. Эти фотографии или ролики были созданы при помощи искусственного интеллекта на основе данных, полученных из глубокого обучения нейронных сетей.

Как создаются дипфейки

Существуют специальные приложения для формирования дипфейков. Любой пользователь мобильного гаджета может загрузить их:
Reface: приложение, доступное в App Store. Позволяет заменять лица на видеодорожках или GIF-катинках. Достаточно сделать селфи и выбрать видео. Приложение сделает анимированную картинку, где человек, к примеру, выигрывает огромную сумму на игровых автоматах Неон Вин. Однако точность итогового видео зависит от симметрии лица на фотографии и качества исходных данных;

• Avatarify: позволяет оживить фото из галереи в смартфоне. Оно передает на лицо эмоции. Для изменения изображения используется нейронная сеть. Оно сохраняется в виде небольшого видео;
• Wombo: добавляет мимику статичному лицу на фотографии. Пользователь делает селфи, выбирает музыку, а система анимирует изображение, синхронизируя его с музыкой;
• MyHeritage: приложение, оживляющее старые фотографии;

DeepFakes Web: заменяет лица на видеодорожках.

Использование дипфейков может нанести вред репутации и привести к манипуляции действительностью. Представляя ложь за правду, можно убедить людей в несуществующих событиях. А это опасно и может иметь серьезные последствия: уничтожение репутации, влияние на выборный процесс, разрыв отношений и т.д.

Распознание обмана

Из-за развития цифровых технологий распознавание дипфейков становится все сложнее. Помочь увидеть подделку может специализированное программное обеспечение. Наилучшие результаты у искусственного интеллекта получаются на видео и фото знаменитых людей, так как машинного обучения доступно большое количество медиа материала.
Признаков, на которые следует обратить внимание:

• Визуальные: странная мимика или движения тела (неправильное освещение или тени;
• звуковые: несоответствие между произношением персонажа и движением его губ;
• контекстуальные: важно задать себе вопрос, соответствует ли поведение персонажа на видео тому, которое для него характерно.

Важно учитывать надежность источника. Авторитетные издания проверяют, поступающие к ним, материалы. К примеру, когда к авторитетному изданию приходит видео с информацией, что некий политик решил играть в Неон Вин, оно обязательно проверяется при помощи специальной программы. И хотя алгоритмы машинного обучения превращаются в более продвинутые, выявить некоторые признаки, указывающие на дипфейки, возможно. Это важно для выявления дезинформации, способной навредить.