Дипфейк: как распознать поддельное видео, голос и звонок

Дипфейк редко удаётся распознать по одной картинке. Ищи тревожные признаки вроде размытых краёв лица, губ, которые не совпадают со звуком, или плоского, металлического голоса. Ещё важнее контекст: если в видеозвонке, по телефону или в голосовом сообщении у тебя просят деньги или данные, положи трубку и перезвони по номеру, который точно настоящий.

Дипфейки это видео, изображения и записи голоса, подделанные с помощью нейросетей. Мошенники используют их, чтобы выдавать себя за родственников, начальников, чиновников и известных людей. Мы в KatiTrust делаем приложение-камеру, которое даёт фото и видео код проверки в момент записи. Эта работа показала нам, как мало можно вычитать из готового файла задним числом. Ниже признаки, которые называют специалисты, их ограничения и проверки, которые работают даже против безупречной подделки.

Как распознать дипфейк: главные шаги коротко

Чтобы распознать дипфейк, сочетай две вещи: внимательный поиск типичных ошибок в изображении и звуке и проверку по второму каналу. С каждым новым поколением инструментов ошибки находить всё труднее. А перезвон по известному номеру, личный вопрос или семейный пароль работают даже тогда, когда сама подделка идеальна.

1. Остановись: Давление быстро заплатить или сообщить секретные данные это самый сильный тревожный сигнал, даже если лицо и голос кажутся настоящими.
2. Смотри и слушай внимательно: Проверь область рта, зубы, черты лица и движения головы, прислушайся к плоскому или роботизированному голосу.
3. Проверь по второму каналу: Положи трубку и позвони человеку по номеру, который точно его.
4. Задай вопрос, на который ответит только он: Или попроси семейный пароль.
5. Проверь источник: Если ролик вирусный, выясни, кто опубликовал его первым и пишут ли о том же надёжные издания.

Шаги 3 и 4 важнее всего, потому что работают независимо от качества подделки. Если перед тобой один снимок, а не видео или звонок, статья о том, как проверить фото на подлинность, проведёт через семь проверок.

Что такое дипфейк: замена лица, синхронизация губ и клон голоса

Дипфейк это результат работы нейросети, которая создаёт изображение или звук, имитирующий реального человека. Это может быть видео, где человек говорит то, чего никогда не говорил, или поддельная голосовая запись. В жизни полезно различать четыре вида:

• Замена лица: Лицо одного человека переносят на другого в видео, сохраняя исходную мимику и взгляд.
• Синхронизация губ: В настоящей записи подменяют текст и подгоняют движения губ к новым словам.
• Синтетические лица: Нейросеть создаёт людей, которых не существует, чаще всего на отдельных снимках, например аватарках.
• Клонирование голоса: Синтез речи читает любой текст голосом конкретного человека, а преобразование голоса превращает записанную речь в этот голос.

Банк России пишет, что для цифровой копии человека мошенники используют его фото, видео и запись голоса, полученные в основном через взлом аккаунта в соцсетях или мессенджерах. Поэтому каждое голосовое сообщение и каждый ролик с твоим голосом в открытом доступе может стать материалом для клона.

Синтетические лица встречаются в основном на аватарках. О таких неподвижных картинках подробно рассказывает статья о том, как понять, что фото сгенерировано нейросетью. И не каждой подделке нужна нейросеть: часто настоящую запись просто выдают в другом контексте или снимок обрабатывают по старинке. Здесь о том, как понять, что фото отфотошоплено.

Как распознать дипфейк видео: признаки в лице и движении

Многие техники дипфейков оставляют видимые ошибки, так называемые артефакты. Банк России называет главные признаки: неестественная монотонная речь, дефекты звука и видео и несвойственная человеку мимика. Если можешь, останови ролик, увеличь его и проверь эти места:

• Область рта: искажения и размытость вокруг губ.
• Зубы: зубы сливаются в одну полосу или выглядят неправдоподобно.
• Лицо: черты лица меняются от кадра к кадру.
• Движение: неестественные повороты головы, слишком редкое моргание, мимика не совпадает с тем, что говорится.
• Синхронизация: движения губ не совпадают со словами.
• Фон и картинка: смазанное или намеренно размытое изображение, странные шумы и пятна.

Последний пункт важен. Мошенники всё чаще добавляют в записи шум, пятна или снимают видео с экрана, чтобы скрыть артефакты нейросети. Бывает и так, что подделан только фрагмент настоящей записи: начало подлинное, а дальше идёт подделка.

Подвох в том, что с каждым новым поколением моделей таких ошибок всё меньше. Если ты не нашёл артефактов, это не значит, что видео настоящее. Ролики в соцсетях к тому же часто так сильно сжаты, что мелкие детали всё равно расплываются.

Обычно проще распознать дипфейк видео по контексту: кто опубликовал его первым и пишут ли об этом надёжные издания? Можно также сделать скриншот характерного кадра и запустить поиск по фото, чтобы найти более ранние версии или оригинал.

Клонированный голос: как распознать дипфейк по телефону

Клонированный голос особенно удобен мошенникам, потому что в телефонном разговоре нет ошибок изображения. Но у синтетических голосов есть типичные слабости:

• Машинная манера: монотонная, неестественная интонация, иногда почти роботизированная.
• Перемены по ходу: акцент, тембр и высота голоса меняются посреди фразы.
• Ошибки в речи: неправильные ударения и запинки, особенно в числах, датах, суммах и именах.
• Склонения: ошибки в окончаниях, которые носителю языка сразу режут слух.
• Расхождения: голос местами отличается от настоящего голоса человека.

Не полагайся только на звучание. Плохая связь тоже звучит металлически, а хорошие клоны звучат естественно. Больше говорит сценарий разговора: знакомый голос, внезапная беда, давление действовать немедленно и просьба никому не рассказывать. Это классическая схема «ваш родственник попал в беду», теперь с клонированным голосом.

Обращай внимание и на номер на экране. Мошенники умеют подменять номер и имя звонящего, поэтому знакомый номер ничего не доказывает. Банк России к тому же предупреждает, что первый контакт всё чаще идёт через СМС, почту или мессенджеры с просьбой срочно перезвонить по указанному номеру.

Распознают ли приложения дипфейк? Почему инструменты часто ошибаются

Есть приложения и сайты, которые обещают найти дипфейк в видео или записи. Они дают вероятность, а не доказательство. Со стороны трудно оценить, насколько надёжен конкретный инструмент.

Детектор узнаёт в основном подделки, похожие на те, на которых его обучали. Новые методы ему часто не по силам, а подделыватели могут специально работать против детекторов. Шум, наложенные текстуры и запись с экрана сбивают программы, хотя человеку иногда кажутся неестественными. Создатели инструментов и мошенники в постоянной гонке.

Считай любое приложение максимум вторым мнением. Результат «вероятно, подделка» хороший повод перезвонить. А «вероятно, настоящее» ничего не снимает. Знание типичных ошибок помогает, но не заменит перезвон, когда на кону что-то действительно важное.

Лучшая защита: проверь человека по второму каналу

Раз распознать дипфейк на глаз всё труднее, самые надёжные проверки вообще не зависят от подделки. Помогут такие шаги:

1. Положи трубку и перезвони: Набери номер человека или организации сам, по памяти или с официального сайта, а не из списка вызовов или из сообщения.
2. Задай вопрос, на который ответит только настоящий человек: например «Где мы встречали прошлый Новый год?».
3. Договоритесь о семейном пароле: слово или фраза, которую знает только твоя семья и которой никогда нет в сети.
4. Подключи ещё кого-то: позвони другому родственнику или знакомому, даже если собеседник просил сохранить всё в тайне.

По нашему мнению, семейный пароль даёт больше всего при минимуме усилий. Хватит одного разговора, а работает он даже против идеальной подделки. Договоритесь о нём лично, а не в семейном чате, и обсудите, когда будете его спрашивать.

Ограничь и то, сколько твоих фото, видео и голосовых сообщений доступно публично. Закрытые профили и подписчики, которых ты знаешь, дают мошенникам меньше материала для клона.

Боишься показаться невежливым? Настоящие родственники и начальники поймут быстрый перезвон. А мошенники делают всё, чтобы до него не дошло: уверяют, что дело срочное, что помочь можешь только ты и что никому нельзя рассказывать.

Дипфейк и мошенники: знаменитости, «начальники», беда с родными

Дипфейк редко появляется сам по себе. Обычно он делает убедительнее уже известную схему обмана настоящим лицом или голосом, поэтому знание этих схем помогает распознать подделку, пока она не стоила тебе денег.

Реклама «инвестиций» с известными людьми: ролики, где лицо и голос знаменитости или бизнесмена обещают «уникальный» доход, часто вставляют в макет новостной программы, чтобы они выглядели как телевидение. Если известное лицо обещает высокую прибыль без риска, считай это обманом, пока не доказано обратное.

Фальшивые сотрудники банков и ведомств: мошенники звонят или пишут от имени банка, Центробанка, налоговой или полиции и убеждают перевести сбережения на «безопасный счёт». Банк России напоминает, что ни его сотрудники, ни госведомства не просят совершать операции по счетам, а «специальных» или «безопасных» счетов не существует. Голос и даже лицо в видеозвонке могут быть ненастоящими.

Дипфейк начальника: по данным Банка России, мошенники создают дипфейки и работодателей. Сотруднику приходит голосовое или видео от «руководителя» с просьбой срочно оплатить счёт или перевести деньги. Перед любым таким платежом перезвони начальнику по известному номеру.

Романы и видео, «доказывающие», что человек существует: в онлайн-отношениях мошенники присылают сгенерированные фото и видео, чтобы убедить, что они реальны. Если новый знакомый быстро становится очень близким, а потом речь заходит о деньгах, сделай шаг назад. Как идут такие схемы, рассказываем в статье про брачных аферистов.

Content Credentials: решение на перспективу

Все прежние способы оценивают готовую запись задним числом. Поэтому всё важнее решения, которые связывают запись с её источником уже в момент создания, например цифровой подписью. Самый известный открытый стандарт это C2PA. Он добавляет в файл Content Credentials: подписанные сведения о том, когда появилась запись и какое устройство или программа её создали и обработали. Content Authenticity Initiative объясняет, что так поздние изменения становятся видны, и прямо оговаривает, что Content Credentials не решают, «настоящий» ли контент.

Ту же цель преследует KatiTrust. Фото и видео снимаешь прямо в приложении, загрузить файл из галереи нельзя. Видео может длиться до 20 секунд. Каждый снимок получает код проверки, и тот, у кого он есть, проверит подлинность, время съёмки и примерное местоположение бесплатно в браузере, без аккаунта. Для Android приложение есть в Google Play, для iPhone оно скоро появится в App Store.

Важно, что показывает такое доказательство. Оно показывает, что файл не менялся с момента записи. При этом такое доказательство не скажет, была ли снятая сцена постановкой, и не поможет во время видеозвонка в реальном времени. Для видео без доказательства происхождения дипфейк по-прежнему придётся распознавать по-старому: по тревожным признакам и прежде всего через перезвон.

Что делать, если тебя обманули с помощью дипфейка

Если ты уже заплатил или сообщил данные, действуй быстро:

1. Сразу позвони в банк: сообщи о мошенничестве по официальному номеру с карты или сайта и попроси остановить или оспорить платёж.
2. Прекрати платить и общаться: не отправляй новых денег, какую бы причину ни называли.
3. Сохрани доказательства: запиши имена, номера телефонов и адреса, дату, сумму и способ каждого платежа, а также как начался контакт.
4. Подай заявление: заявление о преступлении принимают в любом отделе полиции, устно или письменно.

Мошенничество, то есть хищение чужого имущества путём обмана или злоупотребления доверием, наказывается по ст. 159 Уголовного кодекса. Отдельной формы обмана «с дипфейком» там нет, оценивают сам обман.

Если кто-то сделал дипфейк с твоим лицом, пожалуйся на него площадке и сохрани ссылку, дату и скриншоты. По ст. 152.1 Гражданского кодекса обнародовать и использовать изображение человека, в том числе его фото и видео, можно только с его согласия. Это основание требовать удаления. Если подделка порочит тебя или используется для вымогательства, обратись в полицию.

Часто задаваемые вопросы о дипфейках

Всегда ли можно распознать дипфейк?

Нет. Многие дипфейки выдают себя ошибками в губах, зубах или голосе, но каждое новое поколение инструментов допускает их реже. Поэтому одни признаки ненадёжны. Надёжнее всего проверка по второму каналу: перезвон по известному номеру, личный вопрос или семейный пароль.

Есть ли приложение, которое надёжно находит дипфейки?

Нет. Приложения и сайты выдают вероятность, а не доказательство, и часто ошибаются на новых или специально замаскированных подделках. Используй их максимум как второе мнение. Когда речь о деньгах или доверии, решает проверка человека по другому каналу.

Как распознать клонированный голос по телефону?

Прислушайся к монотонной интонации, внезапной смене тембра и ошибкам в числах, именах и ударениях. Но хорошие клоны звучат естественно, а плохая связь тоже искажает голос. Надёжнее сценарий: беда, срочность и просьба о тайне. В таком случае положи трубку и перезвони сам.

Как защищает семейный пароль?

Это слово или фраза, о которой вы договорились лично и которой нет в сети. Если «родственник» звонит с бедой, попроси пароль. Клонированный голос может звучать идеально, но пароль мошенник не знает. Договоритесь о нём при встрече и не храните его в переписке.

Может ли дипфейк быть в видеозвонке в реальном времени?

Да. Есть инструменты, которые заменяют лицо и голос прямо во время звонка. Попроси собеседника повернуть голову в профиль, провести рукой перед лицом или ответить на личный вопрос. Но и это не гарантия, поэтому важные просьбы перепроверяй отдельным звонком.

Что делать, если сделали дипфейк с моим лицом?

Пожалуйся на ролик площадке, сохрани ссылку, дату и скриншоты. Использовать изображение человека без его согласия нельзя по ст. 152.1 ГК РФ, это основание требовать удаления. Если подделку используют для обмана, вымогательства или клеветы, подай заявление в полицию.

Итог: дипфейк надёжнее всего распознать по контексту

Признаки в изображении и звуке полезны, но с каждым годом их всё труднее заметить. Надёжнее всего распознать дипфейк помогает не идеальное зрение, а привычки: остановиться, когда торопят, перезвонить по известному номеру, задать личный вопрос и договориться с семьёй о пароле.

Если ты уже перевёл деньги, сразу звони в банк и подавай заявление в полицию. Сохрани переписку, номера и ссылки: они понадобятся и банку, и следователю. А чтобы твои собственные видео и фото было проще подтвердить, фиксируй их происхождение в момент съёмки.