О сервисе TagFake

Что такое TagFake?

TagFake — это веб-приложение, которое анализирует изображения в публикациях X (ранее Twitter) и оценивает вероятность того, что каждое изображение было заново сгенерировано моделью ИИ. Оно объединяет результаты детекторов с визуальными тепловыми картами, чтобы вы могли проверить и оценку, и области, повлиявшие на вывод.

Сервис предназначен как вспомогательный ориентир для пользователей социальных сетей, фактчекеров, журналистов, специалистов и энтузиастов цифровой криминалистики, исследователей и всех, кто проверяет подлинность изображений.

Как это работает

Классификация типа изображения

TagFake использует классификацию CLIP без обучения на примерах, чтобы оценить, ближе ли изображение к PHOTO или ART. Результат показан на странице анализа как индикатор PHOTO/ART.

Обнаружение вероятности ИИ

Вероятность ИИ рассчитывается на основе оценок нескольких детекторов.

В анализе используются следующие детекторы, включая кандидаты, которые находятся на этапе оценки.

  • Frequency Analysis (FFT)
  • Noise Analysis
  • Error Level Analysis (ELA)
  • DIRE (Diffusion Reconstruction Error)
  • UniversalFakeDetect (CSID)
  • DeepFakeDetectorV2
  • AI Image Detector
  • TruFor

Обнаружение NSFW

TagFake использует собственный метод, чтобы определить, содержат ли опубликованные изображения чувствительный (NSFW) контент. Изображения, помеченные как NSFW, по умолчанию скрыты на страницах списков и показываются только в пикселизированном виде даже при включенном показе NSFW. Обнаружение NSFW не влияет на оценки вероятности ИИ-генерации или манипуляции.

Как читать результаты

Вероятность ИИ

Оценочная вероятность того, что изображение было заново сгенерировано моделью ИИ. Рассчитывается по взвешенному ансамблю детекторов и калибруется на оценочном наборе.

Оставшаяся часть вероятности ИИ (например, 20%, оставшиеся от оценки 80%) не является вероятностью того, что изображение подлинное; она лишь показывает, насколько слабо были обнаружены признаки ИИ-генерации. Сервис не оценивает вероятность изменений или композиции, кроме ИИ-генерации.

Сопоставляйте вероятность ИИ с тепловой картой оснований ИИ, чтобы увидеть, где на изображении были обнаружены признаки ИИ-генерации, и самостоятельно оценить результат.

На главной странице, а также в списках Фото и Арт изображения делятся на две колонки только по вероятности ИИ: "Вероятность ИИ-генерации < 50%" и "Вероятность ИИ-генерации ≥ 50%".

Пример анализа

Два изображения ниже действительно были проанализированы этим сервисом. На страницах списков изображения с вероятностью ИИ-генерации ниже 50% появляются в левой колонке, изображения с 50% или выше — в правой, а фиолетовая полоса внизу каждой карточки показывает вероятность ИИ-генерации.

Вероятность ИИ-генерации < 50%

Фото картины Вермеера «Девушка с жемчужной сережкой»
ART

Фото картины Вермеера «Девушка с жемчужной сережкой»

Вероятность ИИ-генерации ≥ 50%

ИИ-сгенерированное изображение, похожее на картину Вермеера «Девушка с жемчужной сережкой»
ART

Изображение, созданное с помощью ChatGPT

Как читать тепловые карты

Страница анализа показывает тепловую карту оснований ИИ, которая накладывает свидетельства детекторов, используемых для обнаружения ИИ, согласно весу каждого детектора. Более темные красные области указывают на зоны с более сильными свидетельствами ИИ-генерации. Тепловая карта — это подсказка о ходе рассуждения детекторов; она не доказывает, что конкретная область была сгенерирована ИИ.

Случаи, когда результаты менее надежны

Следующие типы изображений могут выходить за пределы того, для чего были разработаны детекторы, поэтому вероятность ИИ следует читать с особой осторожностью.

  • Фотографии со встроенной иллюстрацией, аниме-постером или картиной

    Встроенное художественное изображение может напоминать признаки ИИ-генерации и повышать вероятность ИИ.

  • Реальные фотографии с добавленными стикерами, эмодзи или текстовыми наложениями

    Наложенные элементы могут вносить искусственные края и текстуры, искажая вероятность ИИ.

  • Изображения с сильными цветовыми фильтрами, сглаживанием кожи, стилизацией, генеративной заливкой или композитными правками

    Сильные правки могут скрывать или имитировать пиксельные следы, на которые опираются детекторы, делая вероятность ИИ менее надежной. Легкие корректировки, которые только повторно кодируют изображение — коррекция цвета или экспозиции, изменение размера, преобразование формата — обычно оказывают небольшое влияние.

  • Скриншоты экранов телефона или ПК, пользовательских интерфейсов, веб-страниц или кода

    Артефакты захвата экрана и отображения находятся вне ожидаемого входа детекторов, поэтому вероятность ИИ становится менее надежной.

  • Изображения, многократно пересохраненные или перекодированные, особенно как JPEG низкого качества

    Шум сжатия может скрывать или напоминать следы, которые ищут детекторы, поэтому вероятность ИИ может смещаться в любую сторону.

  • Диаграммы, графики, слайды и другие схематические изображения

    Такие изображения выходят за диапазоны фотографий и иллюстраций, для которых разработаны детекторы, поэтому вероятность ИИ становится менее надежной.

  • 3D-рендеры (как стилизованные, так и фотореалистичные)

    И стилизованные, и фотореалистичные рендеры могут выходить за пределы обучающего распределения детекторов, делая вероятность ИИ менее надежной.

  • Коллажи, смешивающие фотографии и иллюстрации в одном кадре

    Смешанные области с разными визуальными свойствами могут делать оценки детекторов нестабильными.

  • Мемы и другие изображения, где преобладает наложенный текст

    Большие текстовые области могут закрывать визуальные следы, на которые опираются детекторы, делая вероятность ИИ менее надежной.

TagFake не обнаруживает такие случаи автоматически, поэтому страница анализа все равно показывает оценку для подобных изображений. Читайте результаты для таких изображений с особой осторожностью, а не принимайте их буквально.

Контакты

Электронная почта
tagfake@gmail.com

Отказ от гарантий

Все результаты обнаружения являются вероятностными, а не окончательным доказательством. Наша система использует продвинутые алгоритмы для оценки вероятности ИИ-генерации, но не может обеспечить абсолютную уверенность.

  • Возможны ложные срабатывания и пропуски: подлинные изображения могут быть ошибочно помечены как ИИ-сгенерированные, а ИИ-сгенерированные изображения могут быть классифицированы как подлинные.
  • Точность неоднородна: точность зависит от типа изображения, генератора и силы последующей обработки, а технологии ИИ-генерации постоянно развиваются. Ни одна система обнаружения не может с идеальной точностью выявить все ИИ-сгенерированные изображения.
  • Используйте результаты как один из факторов оценки: учитывайте оценку, тепловую карту, контекст изображения и другие источники, прежде чем делать выводы.

Используя TagFake, вы признаете эти ограничения и соглашаетесь, что сервис предоставляет оценочный анализ, а не гарантированную проверку.