Дипфейк: как используется в маркетинге и как его распознать

Дипфейк Брюса Уиллиса в рекламе «Мегафон»

Ниже подробнее расскажем, что такое дипфейк, как он используется и как от него защититься.

История дипфейков

Год назад многие AI-видео выглядели вот так. Источник: YouTube-канал Robot Named Roy

Сейчас дипфейки могут обмануть любого

Такие разные дипфейки: хорошие и не очень

Технология дипфейк находит применение в разных сферах. В кино она создаёт цифровые копии звёзд, что экономит бюджеты на съёмках. Однако такое использование ИИ многими считается спорным, так как актёры и другие творческие работники теряют заработок.

Дип фейк также используется для качественной имитации голоса, что в некоторых ситуациях улучшает дубляж фильмов. В музеях и галереях эта технология является интересным инструментом для создания интерактивных экспонатов.

К сожалению, технология дипфейков часто используется не только во благо, но и во вред. Например, злоумышленники создают дип фейки с участием известных людей: политики, знаменитости и бизнесмены, чтобы манипулировать общественным мнением или совершать преступления (например, заманивать людей на мошеннические сайты).

Несанкционированное использование цифровых копий личности расценивается как посягательство на права человека или бренда. Бывали случаи, когда мошенники, используя технологию дипфейк, имитировали голос и изображение руководителя отдела, вводя в заблуждение сотрудников компании. Под видом выполнения распоряжения начальника, люди переводили денежные средства на счета преступников.

Также были попытки размещения фейковых сообщений от имени известных предпринимателей, где с помощью дипфейков рекламировались несуществующие возможности получения денег, а для их перевода себе на счёт предлагалось перейти на вредоносные сайты.

Технология дипфейков сейчас многими считается спорной и часто вызывает конфликты. Например:

«Она» — такой пост сделал основатель OpenAi. Многие решили, что это отсылка к фильму «Она», в котором снималась Йоханссон

Дипфейки и ИИ в маркетинге

Контент, созданный ИИ, решает те же бизнес-задачи, что и традиционные методы маркетинга: он демонстрирует товары, завлекает новых пользователей или покупателей, делает вашу компанию более узнаваемой, увеличивает продажи. Вот что ещё делает этот инструмент:

• Удешевляет рекламу. Создание ИИ-видео и фотографий не требует привлечения людей для съёмок (соответственно, платить им деньги тоже не надо). Дипфейки экономят для компаний значительные суммы на рекламу и легко создают образы любых людей, даже знаменитостей. Однако для этого нужно получить согласие, а многие звёзды и правообладатели настроены против ИИ. Если вы используете чью-то внешность, голос или творчество, защищённое авторскими правами, без согласия вы рискуете получить крупный штраф. Чужие сгенерированные с помощью ИИ видео также нельзя использовать без разрешения.

Шах Рукх Хан в рекламе Cadbury. Маленьким компаниям из Индии разрешили использовать его дипфейк для рекламы своих брендов

• Ускорить адаптацию контента. С ИИ-технологиями бренды быстро подстраивают рекламу под разные условия. Создание контента для различных платформ становится проще и быстрее: если вам нужно видео для соцсетей или изображение для наружной рекламы, ИИ вам с этим поможет. Например, дипфейки создают многоязычные видеоролики или меняют фон, не проводя реальных съёмок. Так компании избегают больших трат.

Бренд Zalando использовал ИИ в своём видео — актриса Кара Делевинь говорила на нескольких языках

• С ИИ можно креативить. Бренды реализовывают смелые идеи и удивляют аудиторию. Например, некоторые компании предлагают виртуально надеть очки и посмотреть, как они будут смотреться.

Примерка очков на сайте masterglasses.ru

Как сделать дипфейк

Дипфейки используют для безобидного развлечения, например, чтобы посмотреть на себя в старости или в образе другого пола, а также для более серьёзных целей.

Источник: toonme.com

Пример работы инструмента. Кадр из видео Deepfakery на YouTube

FaceApp

Как вообще работает эта технология

Ян Гудфеллоу придумал генеративно-состязательные сети. Это два алгоритма, которые вместе создают ИИ-контент, например, дипфейки. Один алгоритм изучает реальные объекты и создаёт новое изображение, а другой «критикует» полученный материал — то есть проверяет, насколько естественно он выглядит. Они работают друг против друга и благодаря этому учатся. Таким образом качество дипфейков постоянно повышается.

Как узнать дипфейки

Так как же не дать себя обмануть? Если вы не уверены в подлинности видео, попробуйте найти странности:

• Частота кадров. Обратите внимание, как часто меняются кадры. Дипфейки обычно «моргают» реже, чем реальное видео, и иногда это выглядит неестественно.
• Звук. Существуют программы для изменения голоса, но во многих дипфейках используют только изображение. Будьте осторожны, если видео без звука или аудио не соответствует картинке. Обращайте внимание на движение губ.
• Лицо и тело. Создавать реалистичные подделки всего человека — сложная задача. Чаще всего подменяют только лицо. Проверьте на совпадение пропорций тела и лица, цвет кожи, а также соответствие мимики движениям тела.
• Длительность. Качественная генерация видео зачастую требует много времени на обучение алгоритма, поэтому фейковые ролики обычно короткие.
• Рот. Технология ИИ не очень хорошо воспроизводит язык и зубы, когда человек говорит. Поэтому размытость внутри рта часто указывает на поддельное видео.
• Детали. Это слабое место ИИ-программ. Обращайте внимание на мелочи: нереалистичная растительность на лице, слишком гладкая или морщинистая кожа, выдуманные родинки и неестественный цвет губ.

• Специальное ПО. Для более тщательной проверки используйте программы по обнаружению deepfake. Это значительно снижает риск. Вот несколько вариантов:

Как защититься от создания дипфейков

Технология дипфейков продолжит развиваться и дальше. Если вы хотите защитить себя и близких:

Заключение

Дипфейк — это мощная технология, которая может как развлекать, так и дезинформировать. С одной стороны, она открывает возможности для творчества и самовыражения, с другой — требует развития критического мышления и инструментов для проверки достоверности информации. В будущем нас ждёт дальнейшее совершенствование дипфейков, поэтому важно быть бдительными и осознавать их потенциал как для позитивных, так и для негативных целей.