Как понять, что картинка создана ИИ (и где подводит каждая проверка)

В групповой чат прилетает снимок грозы над городом, и кто-то задаёт вопрос, который теперь сопровождает половину вирусных картинок в сети: это настоящее? Мы делаем ИИ-изображения целыми днями, поэтому знаем обе стороны. Есть честные способы повысить или понизить доверие к картинке. Способа быть уверенным по одному лишь файлу нет ни у вас, ни у нас. Ниже чек-лист в том порядке, в каком пользуемся им мы, и рядом с каждым шагом записан его предел.

Шаг 1: посмотрите, прежде чем увеличивать

Начните со всего кадра в обычном размере и спросите себя, похожа ли сцена на реальное событие. Кто мог стоять там с камерой? Не слишком ли идеален момент, где каждый элемент будто расставлен для съёмки? После настоящих событий обычно остаётся много неидеальных фотографий. После сгенерированной сцены часто остаётся ровно одна безупречная.

Предел: это вопрос о контексте, а не о пикселях. Настоящий фотограф может поймать один идеальный кадр, а аккуратный фальсификатор может выложить несколько вариантов.

Шаг 2: визуальные признаки и почему они исчезают

Теперь увеличьте. Модели рисуют то, что вероятно, а не то, что согласовано, поэтому ошибки скапливаются там, где у сцены есть правила, которые должны соблюдаться по всему кадру.

• Руки и суставы. Посчитайте пальцы, потом посмотрите, как рука держит предмет: ручка чашки, проходящая сквозь палец, кольцо, вплавленное в кожу, рука без явного локтя.
• Текст и символы. Вывески, этикетки, номерные знаки и корешки книг, которые издалека выглядят как надписи, а вблизи превращаются в почти-буквы. Логотипы, почти совпадающие с известной маркой.
• Отражения и тени. Зеркало или витрина, в которых видна другая комната, отражение без человека, стоящего перед ним, тени, падающие в две стороны под одним солнцем.
• Логика света. Лицо, тепло освещённое слева, в сцене, где единственное окно справа. Контровой свет на объекте, за которым нет ничего, что могло бы его дать.
• Повторяющиеся текстуры. Кирпичи, листья, толпа или узор ковра, которые копируют сами себя, лица на заднем плане, оказавшиеся одним и тем же лицом, волосы, переходящие в гладкое пятно.

Предел: с каждым поколением моделей эти признаки встречаются всё реже, и именно их исправляет внимательный автор. Мы даже написали для этого руководство: как исправить руки и текст на ИИ-картинках. У настоящих фотографий тоже есть свои странности от объективов и обработки в телефоне. Чистый результат ничего не доказывает; одна странная деталь доказывает мало.

Шаг 3: прочитайте данные о происхождении

Файл может нести сведения о том, откуда он взялся. Снимки с камеры обычно содержат базовые метаданные, например устройство и время съёмки. Поверх этого есть открытый стандарт подписанных данных о происхождении, который людям часто показывают как Content Credentials: прикреплённая к файлу запись, которая может сообщить, каким инструментом изображение создано или отредактировано и что менялось по пути, причём защищённая так, что подделку можно обнаружить. Некоторые камеры, редакторы и генераторы её записывают, а некоторые платформы показывают её как небольшую кликабельную метку.

Бесплатные онлайн-инспекторы покажут всё, что ещё осталось от данных о происхождении в файле. Если вы нашли подписанную запись о том, что изображение сгенерировано или сильно отредактировано, это веское свидетельство. Если в ней сказано, что снимок сделан камерой, и подпись проходит проверку, это веское свидетельство в обратную сторону.

Предел: отсутствие ничего не значит. Скриншот, повторное сохранение или загрузка в большинство соцсетей стирают метаданные, а многие инструменты их вообще не записывают. Обычные поля метаданных легко отредактировать. Данные о происхождении что-то говорят, когда они есть и действительны, и не говорят ничего, когда их нет.

Шаг 4: запустите обратный поиск по картинке

Загрузите картинку или фрагмент её самой характерной части в сервис обратного поиска по изображениям и отсортируйте результаты по дате. Вы ищете самую раннюю копию. Фото реального события обычно приводит к новостному изданию, фотографу или местному аккаунту с другими снимками того же места. Сгенерированная картинка часто приводит к сообществу ИИ-арта, аккаунту, где делятся промптами, или ни к чему старше самого вирусного поста.

Предел: у совсем новой картинки нет истории, которую можно найти, настоящая она или нет. Обрезка, зеркальное отражение и фильтры могут спрятать картинку от поиска, а найденная более старая копия говорит лишь о том, что картинка старая, но не о том, как она сделана.

Шаг 5: осторожнее с приложениями-детекторами

Автоматические детекторы выдают процент, и это кажется научным. Считайте его ещё одним мнением. Они обучены на моделях, которые существовали на момент их создания, их может обмануть изменение размера или шум, и они ошибаются в обе стороны, в том числе помечая настоящие фотографии. Никогда не обвиняйте человека на основании одной лишь оценки детектора.

Собираем всё вместе

1. 01Спросите, похожа ли сцена на реальное событие и кто ещё должен был её сфотографировать.
2. 02Проверьте руки, текст, отражения, свет и повторяющиеся текстуры, особенно на заднем плане.
3. 03Изучите файл на данные о происхождении и помните, что отсутствие данных не является доказательством.
4. 04Найдите обратным поиском самую раннюю копию и её источник.
5. 05Взвесьте всё. Несколько слабых сигналов в одну сторону стоят больше, чем один сильный на вид.

Честный ответ в конце часто звучит как «вероятно», а не «точно». Это нормально. Полезно то, что вы делаете с этим «вероятно»: не распространяйте картинку как факт, а если всё же делитесь ею, скажите, что вы проверили.

Другая сторона: ваши собственные рендеры

Если вы сами генерируете картинки, в студии или где-то ещё, тот же чек-лист подсказывает, как быть хорошим соседом в интернете. Люди не могут надёжно отличить одно от другого, поэтому ответственность лежит на том, кто публикует картинку.

• Помечайте. Пишите в подписи, что изображение создано ИИ, и ставьте ИИ-метку, если платформа её предлагает. Многие платформы теперь этого требуют.
• Не выдавайте рендер за фотографию реального события, реального теста продукта или реального человека. Вымышленная сцена, показанная как вымысел, это нормально; та же картинка, поданная как новость, нет.
• Не втягивайте реальных людей, если они на это не согласились. Реалистичная картинка узнаваемого человека как раз то, что люди проверить не могут.
• Храните записи. Сохраняйте промпт, модель и дату для всего, что публикуете, чтобы показать, как сделана картинка, если кто-то спросит. Остальная коммерческая сторона разобрана в нашем посте о том, кому принадлежат ИИ-изображения.

Многие модели в каталоге создают картинки, которые проходят беглый взгляд. Именно поэтому они полезны для концепт-арта и историй, и именно поэтому метка важна.