Как понять, что фото сгенерировано нейросетью: 5 шагов

Понять, что фото сгенерировано нейросетью, надёжнее всего, если сочетать три проверки. Сначала поищи метку ИИ или данные о происхождении в файле. Потом осмотри изображение на типичные ошибки вроде искажённых рук или перекошенного текста. И наконец выясни, откуда картинка. Ни одна проверка сама по себе не доказательство: изображение без метки ИИ не становится настоящим автоматически, а одна странная деталь не делает его поддельным.

Мы в KatiTrust делаем приложение-камеру, которое даёт снимку код проверки в момент съёмки. Эта работа показала нам, как мало можно вычитать из готовой картинки задним числом. Ниже шесть визуальных признаков, инструменты для чтения происхождения и план на случай, если сомнения остаются.

Фото сгенерировано нейросетью? Чек-лист из 5 шагов

Чтобы понять, что фото сгенерировано нейросетью, проверь по очереди метки, данные о происхождении, визуальные ошибки и контекст. Каждый шаг ловит свои подделки, ни один не ловит все. Быстрые проверки стоят в начале. Медленные важны, когда изображение действительно имеет значение, например прежде чем переводить деньги или пересылать вирусную картинку.

1. Ищи метку ИИ: Есть ли у публикации пометка о нейросети или видимый водяной знак на картинке?
2. Прочитай данные о происхождении: Загрузи изображение в инструмент проверки Content Credentials.
3. Проверь водяные знаки: Если инструмент производителя доступен, узнай, создана ли картинка его моделью.
4. Ищи визуальные ошибки: Увеличь изображение и рассмотри руки, текст, свет и фон.
5. Проверь контекст: Сделай поиск по картинке, присмотрись к источнику и задавай вопросы.

Картинки нейросетей лишь один вид подделок. Если хочешь проверить снимок шире, в том числе на обычную обработку, в статье о том, как проверить фото на подлинность, описаны семь способов и то, чего каждый из них не докажет.

Почему одних глаз уже мало

Большинство людей доверяют чутью, когда решают, создала ли картинку нейросеть. Большой эксперимент лаборатории AI for Good компании Microsoft показывает, насколько это ненадёжно. Более 12 500 человек оценили около 287 000 изображений в онлайн-игре «Real or Not» и были правы лишь в 62 процентах случаев. Простое угадывание дало бы 50 процентов. Легче всего оценивались портреты людей, труднее всего пейзажи и городские сцены.

Сами исследователи пишут, что их результаты скорее завышают сегодняшние способности людей, потому что новые генераторы создают ещё более реалистичные изображения. Классические ошибки, о которых пишут многочисленные инструкции, встречаются всё реже. Внимательно смотреть всё равно стоит, ведь многие картинки ИИ в ленте сделаны не самыми новыми моделями. Просто не считай глаза единственным тестом.

Шаг 1: ищи метки ИИ и видимые подсказки

Самый быстрый способ понять, что фото сгенерировано нейросетью, занимает несколько секунд: посмотри, что его окружает. Некоторые генераторы ставят видимый логотип в углу. Многие пользователи сами помечают картинки хештегами вроде #нейросеть или #aiart либо пишут об этом в подписи.

Крупные площадки тоже начинают помечать сгенерированный контент, если находят в файле стандартные сигналы ИИ или если автор сам указал, что публикует картинку нейросети. Но правила у всех разные, а пометка появляется далеко не всегда.

Не рассчитывай на метки. Машиночитаемые знаки часто сидят в метаданных, которые пропадают при скриншоте или отправке файла (подробнее в шаге 2). Открытые модели могут работать вообще без меток, а тот, кто хочет обмануть тебя картинкой нейросети, ставить их не станет. Метка это сильный довод в пользу ИИ. Её отсутствие ничего не доказывает.

Шаг 2: как проверить, что фото сгенерировано нейросетью, по данным файла

Если видимых подсказок нет, загляни в файл. Многие компании, которые делают нейросети, добавляют туда данные о происхождении или невидимый водяной знак. Прочитать их помогут несколько инструментов.

Прочитай Content Credentials

Content Credentials это подписанные записи по открытому стандарту C2PA. Они фиксируют, какая программа создала изображение, как его обрабатывали и участвовала ли в этом нейросеть. Загрузи картинку в Content Credentials Verify. Если в файле есть такие данные, ты увидишь, кто их выдал и через какие этапы прошло изображение. А когда инструмент ничего не нашёл, в файле их просто нет или уже нет.

Content Credentials не то же самое, что данные EXIF, которые записывает почти любая камера. Как самому посмотреть модель камеры, дату и место, показываем в статье про метаданные фото.

Проверь водяные знаки производителей

Некоторые компании ставят на картинки своих моделей невидимый водяной знак. Google, например, использует SynthID, а справка OpenAI пишет, что изображения из её сервисов обычно содержат и Content Credentials, и SynthID. У таких компаний есть свои инструменты проверки, если они тебе доступны.

У этих проверок общее ограничение: они находят только картинки собственных моделей. Отрицательный результат исключает лишь этого производителя, изображение могло появиться в другой системе. OpenAI сама называет причины ложных «нет»: картинка могла быть создана до появления сигналов, метаданные могли удалить при загрузке или отправке, а сжатие и обрезка ослабляют водяной знак.

Попробуй раздел «Об этом изображении» в Google

В Google Картинках и Google Объективе есть раздел «Об этом изображении». Справка Google объясняет, что он показывает, когда Google впервые обнаружил похожие версии картинки и где её замечали намного раньше. Функция доступна только в некоторых регионах.

Шаг 3: 6 визуальных признаков картинки нейросети

Если файл молчит, придётся понять, что фото сгенерировано нейросетью, по внешнему виду. Открой его в полном размере на большом экране и просмотри по частям. Вот шесть мест, где ошибки ИИ встречаются чаще всего.

1. Руки, пальцы и зубы

Посчитай пальцы. На картинках нейросетей регулярно бывают шесть пальцев, сросшиеся суставы или руки, которые сливаются с предметами. Зубы иногда выглядят как сплошная белая полоса. Новые модели ошибаются реже, но руки, которые что-то держат или перекрещиваются, всё ещё стоит рассмотреть внимательно.

2. Текст, логотипы и цифры

Вывески, этикетки, номера машин и корешки книг на фоне давно остаются слабым местом генераторов. Ищи буквы, которые почти правильные, но не складываются в слова, и слегка искажённые логотипы. Крупные надписи на переднем плане современные модели часто пишут хорошо. Ошибки проще найти в мелком тексте у краёв.

3. Свет, тени и отражения

Нейросети не моделируют настоящий свет. Они собирают картинку из выученных шаблонов. Поэтому тени иногда падают в разные стороны или человек ярко освещён, а остальная сцена тонет в полумраке. Проверь отражения в окнах, очках и воде: правда ли они показывают то, что перед ними?

4. Фон и предметы

Подумай, работал бы каждый предмет на самом деле. Типичные выдающие детали: очки без дужек, перила, которые обрываются в воздухе, стулья с лишними ножками и люди на заднем плане с размытыми лицами. На экране телефона их легко пропустить. При увеличении они быстро бросаются в глаза.

5. Кожа, волосы и поверхности

У многих портретов нейросетей глянцевый вид: кожа без пор, идеально ровный свет, волосы, которые сливаются с фоном. Сам по себе этот признак слабый, потому что фильтры красоты и ретушь дают похожий эффект. Как распознать настоящие снимки, изменённые после съёмки, рассказываем в статье о том, как понять, что фото отфотошоплено.

6. Украшения, узоры и парные вещи

Генераторы часто путаются в вещах, которые идут парами или повторяются. Серьги не совпадают, стёкла очков разной формы, клетка обрывается посреди рубашки, а пуговицы оказываются в невозможных местах.

Одна ошибка мало что доказывает. У настоящих снимков тоже бывают размытия, артефакты сжатия и странные совпадения. Серьёзно становится, когда признаков несколько. И наоборот, картинка без единого видимого дефекта всё ещё может быть сделана нейросетью.

Шаг 4: проверь контекст и источник

Часто лучше всего понять, что фото сгенерировано нейросетью, помогает история вокруг картинки. Начни с поиска, о котором мы пишем в статье про поиск по фото. Если то же изображение раньше появлялось в галерее картинок ИИ, на форуме или с другой историей, ответ обычно найден. Свежую картинку поиск не найдёт, поэтому отсутствие совпадений ничего не снимает.

Затем присмотрись к отправителю. Сколько лет аккаунту, сочетаются ли другие снимки и встречается ли изображение где-то ещё? Если это новостная картинка, спроси себя, пишут ли о событии известные издания. Эффектный снимок, о котором больше никто не сообщает, должен насторожить.

На Авито или в приложениях знакомств можно попросить больше. Снимок с листком, где от руки написаны твоё имя и сегодняшняя дата, когда-то был надёжным тестом. Раз современные генераторы умеют писать читаемый текст, больше скажут показ вживую или короткий видеозвонок. Но и видео можно подделать. На что смотреть в движущемся изображении и клонированном голосе, объясняем в статье о том, как распознать дипфейк.

Детекторы: почему фото, сгенерированное нейросетью, не всегда распознают

Для быстрой проверки есть сайты и приложения, которые обещают распознать картинку нейросети. Ты загружаешь изображение и получаешь процент вероятности, что его создал ИИ. Это выглядит объективно, но объективно лишь отчасти. Детектор учится на примерах известных генераторов. Картинки новых моделей, сильное сжатие, обрезка или скриншот могут перевернуть результат.

Поэтому мы считаем детекторы максимум вторым мнением. Даже крупные разработчики обещают распознавать только картинки собственных моделей, как описано в шаге 2. Сторонний детектор, который утверждает, что узнает любой генератор, обещает гораздо больше. Если он показал «вероятно, ИИ», присмотрись. «Вероятно, настоящее» картинку не оправдывает, а когда два детектора расходятся, ты знаешь столько же, сколько раньше.

И не загружай чужие личные снимки в незнакомые сервисы: ты не знаешь, что там с ними происходит.

Картинка нейросети, дипфейк или обработанное фото: в чём разница

Не каждое поддельное фото это картинка нейросети, и от этой разницы зависит, какой тест поможет. Картинку ИИ целиком создаёт генератор, часто по текстовому описанию, и она показывает сцену, которой никогда не было. Дипфейк обычно показывает реального человека на видео, снимке или в записи голоса, которых в таком виде никогда не было. Обработанное фото сначала было настоящим и изменено позже: раньше в Photoshop, сегодня всё чаще инструментами ИИ прямо в телефоне.

Границы размываются. Многие смартфоны уже умеют удалять объекты с помощью ИИ. Для тебя это значит, что пометка об обработке нейросетью не делает снимок поддельным автоматически. Важно, меняет ли правка то, что изображение якобы показывает. Урна, убранная со снимка пляжа, это не то же самое, что царапина, добавленная на арендованную машину.

Не знаешь, нейросеть это или настоящий снимок? Что дальше

Если после всех шагов сомнения остаются, относись к изображению так, будто оно может быть поддельным. Это не недоверие к людям, а осторожность в решениях, которые нельзя отменить. Помогут три правила:

1. Не плати, не пересылай: Никогда не переводи деньги на основании картинки, происхождение которой не можешь установить, и не пересылай вирусные снимки, пока источник не ясен.
2. Спрашивай, а не гадай: Попроси показ вживую, видеозвонок или больше снимков с других ракурсов.
3. Жалуйся: Нажми кнопку жалобы на площадке, если профиль или объявление обманывает картинками нейросети, а если потерял деньги, подай заявление в полицию.

Особенно осторожно относись к объявлениям о животных, квартирах и дорогой электронике, где красивые снимки должны подтолкнуть тебя к быстрой предоплате. Как такие схемы выглядят на практике, рассказываем в статье про покупку щенка на Авито.

Докажи, что твои снимки настоящие, вместо того чтобы спорить

Можно перевернуть вопрос: как показать другим, что твоё фото не картинка нейросети? Задним числом это сложно. Происхождение нужно зафиксировать в момент съёмки. Для этого есть два пути: камеры и приложения, которые записывают Content Credentials, и приложения вроде KatiTrust, которые дают каждому снимку код проверки.

В KatiTrust фото и видео создаются только камерой приложения, добавить изображения из галереи нельзя. При съёмке проверка с помощью ИИ должна замечать, например, когда фотографируют экран. Приложение сохраняет цифровой отпечаток, время съёмки и примерное местоположение. У кого есть код проверки, тот бесплатно проверит снимок в браузере. Это показывает, что файл не менялся после съёмки, но не то, была ли сцена постановкой. Здесь можно посмотреть, как работает KatiTrust.

Часто задаваемые вопросы о фото, сгенерированных нейросетью

Всегда ли можно понять, что фото сгенерировано нейросетью?

Нет. Многие картинки ИИ выдают себя ошибками в руках, тексте или свете, но новые модели допускают их всё реже. В большом исследовании люди справились лишь немного лучше, чем при угадывании. Лучше всего сочетать метки, данные о происхождении, визуальные подсказки и контекст.

Есть ли приложение, которое проверит, сгенерировано ли фото?

Многие приложения и сайты обещают распознать картинку нейросети и выдают вероятность, но ни одно не ловит все. Инструменты самих производителей точнее, но находят только картинки своих моделей. Content Credentials Verify показывает данные о происхождении от любого производителя, если они есть в файле.

Можно ли бесплатно проверить, что фото сгенерировано нейросетью?

Да. Content Credentials Verify и раздел «Об этом изображении» в Google ничего не стоят. Многие детекторы ИИ тоже бесплатны, но выдают только вероятности. Сочетай инструменты с внимательным осмотром и поиском по картинке.

Почему у картинки нейросети может не быть метки?

Потому что метки часто хранятся в метаданных, а их удаляют скриншот, отправка через мессенджер или простое пересохранение. Открытые модели могут вообще не ставить меток, а мошенники намеренно их убирают. Поэтому отсутствие метки ничего не говорит о том, настоящий ли снимок.

Чем картинка нейросети отличается от дипфейка?

Картинку нейросети генератор создаёт целиком, и она показывает сцену, которой не было. Дипфейк обычно подделывает реального человека: его лицо или голос на видео, снимке или записи. Для дипфейков важнее проверять звук, движение губ и мимику, а также перезванивать человеку напрямую.

Что доказывает код проверки KatiTrust?

Код показывает, что фото или видео снято в приложении KatiTrust и с тех пор не менялось. Ты видишь время съёмки и примерное местоположение. Код не говорит, была ли сцена постановкой, и не проверяет чужие картинки, сделанные вне приложения.

Итог: фото, сгенерированное нейросетью, выдаёт совокупность признаков

Одна проверка редко даёт ответ. Начни с меток и данных о происхождении, потом рассмотри руки, текст, свет и фон, а затем проверь источник через поиск по картинке. Детекторы используй лишь как второе мнение, и помни, что отсутствие метки ничего не доказывает.

Если сомнения остаются, не плати и не пересылай. Попроси показать вещь вживую или по видеосвязи, а при обмане сохрани переписку и обратись в полицию. А для своих снимков лучше сразу фиксировать происхождение при съёмке, чтобы не спорить потом о том, настоящие ли они.