Как отличить сгенерированный контент от снятого

Вопрос «это снято или собрано моделью» за последний год перестал быть праздным. Раньше сгенерированную картинку выдавали руки с шестью пальцами, а ролик — резиновая физика. Сейчас всё чаще приходится смотреть внимательно, и старые чек-листы из серии «посмотрите на пальцы» работают хуже с каждым обновлением моделей.

Разберём по типам контента: картинка, видео, голос, музыка. Текст в этот материал не входит — признаки там устроены совсем иначе, и разговор про них отдельный.

Начните не с изображения, а с файла

Самая дешёвая проверка занимает полминуты и делается до того, как вы начнёте разглядывать пиксели: откройте свойства файла и посмотрите, что внутри.

Я проделал это на своих материалах. Взял готовый JPEG, который вышел из генерации, и заглянул в него: внутри только служебный заголовок формата, размеры и параметры плотности. Ни блока камеры, ни автора, ни поля с названием программы, ни какой-либо пометки о происхождении. Пусто. Затем то же самое с готовым видеофайлом — там нашлась единственная содержательная строка: название библиотеки, которой файл был собран в MP4. Про то, откуда взялось содержимое, ни слова.

Отсюда два вывода, оба практических.

Первый: рассчитывать, что генерация сама себя подпишет, не стоит. Метки в файле может не быть вовсе, и её отсутствие ровно ничего не доказывает. Разговоры про невидимые встроенные метки ходят давно, но в свойствах файла своими глазами их не увидеть, поэтому строить на них вывод я не буду.

Второй, более полезный: смотреть нужно на обратное — на то, чего в файле нет. Снимок с камеры или телефона обычно тащит за собой целый блок технических данных: модель аппарата, фокусное расстояние, диафрагму, выдержку, чувствительность, дату съёмки, иногда координаты. Если этого блока нет, файл где-то по дороге его потерял.

Ловушка в том, что теряется он постоянно и без всякой генерации. Мессенджеры пережимают картинки и срезают метаданные подчистую, скриншот не наследует данные оригинала, редакторы и конвертеры переписывают файл по-своему. Так что пустые свойства означают всего лишь «файл прошёл через что-то», а не «файл сгенерирован».

Зато обратная ситуация информативна: если технический блок на месте и в нём осмысленные параметры съёмки, вероятность, что кадр родился в модели, заметно ниже. Гарантии и здесь нет — метаданные можно вписать вручную, — но как быстрый фильтр работает.

Картинка: смотрите на края, а не на центр

Модели хорошо рисуют то, на чём сфокусировано внимание, и хуже — периферию. Поэтому проверять логично не главного героя, а всё вокруг него.

• Руки и пальцы. Классика, которая ломается всё реже, но всё ещё ломается — особенно в местах контакта. Не столько число пальцев, сколько то, как рука держит предмет: обхватывает ли кружку, лежит ли на ручке чемодана, соприкасается ли с плечом другого человека.
• Украшения, очки, мелкая фурнитура. Серьга есть в одном ухе и пропала в другом. Цепочка уходит за волосы и выходит с другой стороны со сдвигом. Оправа разной толщины слева и справа, дужка не доходит до уха. Часы с циферблатом, где стрелки не складываются в осмысленное время.
• Надписи. Вывески, ценники, упаковка, корешки книг, номера на форме. Свежие модели пишут короткие слова уже уверенно, но длинные фразы и мелкий шрифт на втором плане по-прежнему рассыпаются в набор букв. С кириллицей это заметно чаще, чем с латиницей.
• Толпа и второй план. Повторяющиеся лица, одинаковые куртки на разных людях, фигуры, которые сливаются друг с другом или теряют ногу за чужой спиной.
• Боке. Размытие слишком ровное и одинаковое по всему фону, без градации по глубине. Иногда вокруг человека видно аккуратное кольцо резкости — оптика так не работает.
• Симметрия и кожа. Лицо, идеально симметричное по обеим половинам. Кожа без пор и без единой неровности при том, что на снимке она должна быть в этом масштабе видна.
• Стыки узоров. Плитка, кирпич, клетка на рубашке, обои, ламели шкафа. Узор идёт ровно, а на границе с другим объектом сбивается, изгибается или меняет шаг.
• Свет и тени. Тени от разных объектов указывают в разные стороны, а отражение в стекле не совпадает с тем, что перед ним.

Видео: главное — не картинка, а движение

В ролике куда информативнее статичного кадра то, как объекты себя ведут во времени. Полезный приём: смотреть на скорости в четверть от обычной и на большом экране.

• Физика столкновений. Предметы соприкасаются без реакции: мяч не деформируется, стул не сдвигается, рука проходит слишком близко к поверхности. Стопа не отталкивается от земли, а как будто прилипает и отклеивается.
• Походка. Длина шага плавает от шага к шагу, ноги на мгновение меняются местами, человек едва заметно скользит, а не идёт.
• Вода, дым, огонь, ткань. Самые сложные для генерации фактуры. Дым не рассеивается, а зацикливается. Брызги повторяются одинаковым рисунком. Подол платья движется отдельно от того, кто в нём идёт.
• Мигающие детали. Пуговица, кольцо, логотип на футболке, узор на шарфе меняются между секундами и возвращаются обратно. Если кажется, что что-то «дёрнулось», отмотайте и посмотрите покадрово.
• Губы и звук. Артикуляция не совпадает со словами, особенно на согласных и на паузах. Иногда рот продолжает двигаться после того, как фраза закончилась.
• Фон, который дышит. Прямые линии на стенах слегка пульсируют, оконная рама подрагивает, текст на плакате в глубине кадра меняется от секунды к секунде.

Отдельная тема — ролики с подменённым лицом реального человека. Технически это отличается от генерации с нуля, и там свои признаки: несовпадение оттенка кожи на границе лица и шеи, разное зерно на лице и на остальном кадре, «залипающие» контуры при резком повороте головы. Где в такой замене проходит граница допустимого, мы разбирали в материале про замену лица в видео.

Голос: слушайте паузы, а не тембр

Тембр современные модели воспроизводят убедительно, поэтому оценивать нужно не «похоже ли на человека», а ритмический рисунок речи.

• Дыхание. Оно либо отсутствует вовсе, либо вставлено ровными одинаковыми вдохами в предсказуемых местах. Живой человек дышит неравномерно, добирает воздух посреди фразы и иногда договаривает на остатке.
• Паузы. Между предложениями они одной и той же длины, будто отмеряны метрономом.
• Окончания фраз. Интонация падает одинаково в конце каждого предложения. Нет ни оборванных, ни подвешенных концовок.
• Стерильность записи. Нет комнаты — ни отражений от стен, ни фонового гула, ни шороха одежды, ни щелчка микрофона. Нет оговорок, запинок, повторов слова, покашливания.
• Сложные слова. Имена, аббревиатуры, редкие термины произносятся либо слишком гладко, либо с уверенной неправильной ударностью — и без единой заминки, которую сделал бы диктор.

Музыка: вокал и динамика

• Смазанные окончания слов. Самый устойчивый признак. Согласные в конце слов растворяются, строчка звучит разборчиво в начале и мутнеет к концу.
• Одинаковая динамика. Трек идёт с одной и той же громкостью и плотностью от первой секунды до последней. Нет нарастания к припеву, нет разрежения в куплете.
• Стыки между частями. Переход от куплета к припеву звучит как склейка: чуть меняется тембр голоса, слегка уходит характер комнаты, инструменты вступают резче, чем следовало бы.
• Отсутствие исполнительского шума. Не слышно пальцев на струнах, дыхания перед духовой фразой, скрипа педали.

Служебные приёмы, которые часто решают дело

Разглядывание пикселей — не главный инструмент: часто быстрее сработать вокруг файла, а не внутри него.

Обратный поиск по кадру. Возьмите стоп-кадр из видео или само изображение и поищите похожие. Если событие реальное и заметное, у него обычно есть более ранний след: другой ракурс, другое разрешение, другая подпись.

Поиск первоисточника. Кто выложил это первым и когда. Есть ли второй ракурс того же момента. Упоминает ли событие хоть одна организация, которая обязана была бы его заметить.

Проверка утверждения, а не картинки. Часто спорна не сама съёмка, а подпись к ней: место, дата, кто на кадре. Спрашивать об этом у чат-бота бесполезно — модель уверенно достроит правдоподобный ответ, и это отдельная ловушка, разобранная в материале про ошибки нейросетей.

Если вы смотрите на этот вопрос с другой стороны — сами публикуете материалы, сделанные с помощью моделей, — полезнее не признаки, а порядок: что проверить перед выкладкой и что обозначить читателю. Про это есть чек-лист проверки перед публикацией.

Чего этот список не даёт

Теперь честная часть, без которой всё выше легко превращается в самообман.

Признаки устаревают быстро: каждое обновление моделей закрывает часть из них, и список, актуальный полгода назад, сегодня наполовину мимо.

Ни один признак не даёт однозначного ответа. Ровное боке бывает у портретного объектива, стерильный звук — в студийной записи. Совпадение одного пункта не значит ничего, совпадение нескольких — повод проверять дальше, а не выносить вердикт.

И главное: «похоже на генерацию» — это не то же самое, что «сгенерировано». Между этими формулировками пропасть, и особенно она заметна, когда речь о конкретных людях и публикациях. Ошибиться в обвинении легко, а последствия у такой ошибки настоящие. Разумная позиция — сомневаться в материале, а не в человеке, и искать первоисточник вместо того, чтобы искать виноватого. Смежный вопрос — где вообще проходит граница между авторством человека и вкладом модели — мы разбирали в отдельном материале.

Частые вопросы

Есть ли в сгенерированном файле метка о том, что это генерация?

Я открыл свойства готовой картинки и готового видео из своих материалов и никакой пометки о происхождении там не нашёл — только служебные поля формата и название библиотеки, собравшей видеофайл. Полагаться на такую метку как на проверку нельзя. Её отсутствие точно так же ничего не доказывает.

Пустые метаданные означают, что файл сгенерирован?

Нет. Метаданные срезают мессенджеры, скриншоты, конвертеры и редакторы — это происходит с огромной долей всех картинок в интернете. Пустые свойства говорят лишь о том, что файл где-то пережимали. А вот наличие осмысленного блока камеры со съёмочными параметрами — слабый аргумент в пользу настоящего снимка.

Какой признак самый надёжный сегодня?

В видео — физика: походка, столкновения, поведение воды и ткани. В голосе — дыхание и одинаковые паузы. В музыке — смазанные окончания слов в вокале. Эти вещи модели даются тяжелее, чем текстура и цвет, поэтому держатся дольше остальных признаков.

Помогают ли автоматические детекторы?

Относиться к ним стоит как к ещё одному мнению, а не как к ответу: они ошибаются в обе стороны, а проверяемых цифр точности у меня нет. Полезнее сочетание нескольких сигналов и поиск первоисточника.

Почему старые советы про шесть пальцев больше не работают?

Потому что именно эти дефекты разработчики чинят в первую очередь: они самые заметные и самые обсуждаемые. Свежие модели изображений в каталоге Most AI рисуют руки и короткие надписи заметно аккуратнее прежних. Проверять теперь приходится не главный объект, а периферию кадра.

Что делать, если сомневаешься, но доказать не можешь?

Ничего не утверждать. Корректная формулировка — «происхождение материала не подтверждено», а не «это подделка». Дальше искать первоисточник и второй ракурс. Если это ваша собственная публикация, безопаснее прямо указать, что и чем сделано.