TagFake 소개

TagFake란?

TagFake는 X (구 Twitter) 게시물의 이미지를 분석하여 각 이미지가 AI 모델로 새롭게 생성되었을 가능성을 추정하는 웹 애플리케이션입니다. 탐지기 출력과 시각적 히트맵을 결합해 점수와 판단에 영향을 준 영역을 함께 확인할 수 있습니다.

소셜 미디어 사용자, 팩트체커, 언론인, 디지털 포렌식에 관심 있는 사람, 연구자, 이미지 진위성을 검토하는 모든 사람을 위한 보조 참고 자료로 제공됩니다.

작동 방식

이미지 유형 분류

TagFake는 CLIP 제로샷 분류를 사용해 이미지가 PHOTO에 가까운지 ART에 가까운지 추정합니다. 결과는 분석 페이지의 PHOTO/ART 표시기로 나타납니다.

AI 생성 확률 탐지

AI 생성 확률은 여러 탐지기의 평가를 바탕으로 계산됩니다.

분석에는 평가 중인 후보를 포함하여 다음 탐지기가 사용됩니다.

  • Frequency Analysis (FFT)
  • Noise Analysis
  • Error Level Analysis (ELA)
  • DIRE (Diffusion Reconstruction Error)
  • UniversalFakeDetect (CSID)
  • DeepFakeDetectorV2
  • AI Image Detector
  • TruFor

NSFW 탐지

TagFake는 자체 방식으로 게시 이미지에 민감한(NSFW) 콘텐츠가 포함되어 있는지 탐지합니다. NSFW로 표시된 이미지는 목록 페이지에서 기본적으로 숨겨지며, NSFW 표시를 켠 경우에도 픽셀 처리된 형태로만 표시됩니다. NSFW 탐지는 AI 생성 또는 조작 확률 점수에 영향을 주지 않습니다.

결과를 읽는 방법

AI 생성 확률

이미지가 AI 모델로 새롭게 생성되었을 추정 확률입니다. 탐지기들의 가중 앙상블로 계산하고 평가 세트에 맞춰 보정합니다.

AI 생성 확률의 나머지 값(예: 80% 점수에서 남은 20%)은 이미지가 진짜일 확률이 아니라, AI 생성 특징이 약하게 탐지되었음을 나타낼 뿐입니다. 이 서비스는 AI 생성 이외의 수정이나 합성 가능성을 평가하지 않습니다.

AI 생성 확률과 AI 근거 히트맵을 함께 확인하여 이미지의 어디에서 AI 생성 특징이 탐지되었는지 살펴보고, 결과를 직접 판단하세요.

홈, 사진, 그림 목록에서는 오직 AI 생성 확률을 기준으로 이미지를 두 열로 나눕니다: "AI 생성 확률 < 50%" 및 "AI 생성 확률 ≥ 50%".

분석 예시

아래 두 이미지는 이 서비스가 실제로 분석한 예입니다. 목록 페이지에서는 AI 생성 확률이 50% 미만인 이미지는 왼쪽 열에, 50% 이상인 이미지는 오른쪽 열에 표시되며, 각 카드 하단의 보라색 막대가 AI 생성 확률을 보여줍니다.

AI 생성 확률 < 50%

베르메르의 진주 귀걸이를 한 소녀 사진
ART

베르메르의 진주 귀걸이를 한 소녀 사진

AI 생성 확률 ≥ 50%

베르메르의 진주 귀걸이를 한 소녀와 닮게 생성한 AI 이미지
ART

ChatGPT로 생성한 이미지

히트맵을 읽는 방법

분석 페이지는 AI 탐지에 사용된 탐지기의 근거를 각 탐지기 가중치에 따라 겹쳐 표시한 AI 근거 히트맵을 보여줍니다. 더 진한 빨간 영역은 AI 생성 근거가 더 강하게 나타난 부분입니다. 히트맵은 탐지기의 추론 단서이며, 특정 영역이 AI로 생성되었다는 증거가 아닙니다.

결과 신뢰도가 낮아질 수 있는 경우

다음과 같은 이미지는 탐지기가 설계된 범위를 벗어날 수 있으므로 AI 생성 확률을 특히 신중하게 해석해야 합니다.

  • 일러스트, 애니메이션 포스터, 그림이 포함된 사진

    포함된 작품이 AI 생성 특징과 비슷하게 보여 AI 생성 확률이 높아질 수 있습니다.

  • 스티커, 이모지, 텍스트 오버레이가 추가된 실제 사진

    덧씌운 요소가 인공적인 가장자리와 질감을 만들어 AI 생성 확률을 왜곡할 수 있습니다.

  • 강한 색상 필터, 피부 보정, 스타일화, 생성형 채우기, 합성 편집이 적용된 이미지

    강한 편집은 탐지기가 의존하는 픽셀 수준 흔적을 가리거나 흉내 낼 수 있어 AI 생성 확률의 신뢰도를 낮춥니다. 색상 또는 노출 보정, 크기 조정, 형식 변환처럼 이미지를 재인코딩하는 정도의 가벼운 조정은 일반적으로 영향이 작습니다.

  • 휴대폰 또는 PC 화면, 사용자 인터페이스, 웹페이지, 코드의 스크린샷

    화면 캡처와 디스플레이 아티팩트는 탐지기가 예상하는 입력 범위 밖이므로 AI 생성 확률의 신뢰도가 낮아집니다.

  • 여러 번 다시 저장되거나 재인코딩된 이미지, 특히 저품질 JPEG

    압축 노이즈가 탐지기가 찾는 흔적을 묻거나 그 흔적과 비슷하게 보일 수 있어 AI 생성 확률이 어느 방향으로든 크게 흔들릴 수 있습니다.

  • 차트, 그래프, 슬라이드 및 기타 도식 이미지

    이런 이미지는 탐지기가 설계된 사진 및 일러스트 범위를 벗어나므로 AI 생성 확률의 신뢰도가 낮아집니다.

  • 3D 렌더링 이미지(스타일화된 이미지와 사실적인 이미지 모두)

    스타일화된 렌더와 사실적인 렌더 모두 탐지기의 학습 분포를 벗어날 수 있어 AI 생성 확률의 신뢰도가 낮아집니다.

  • 사진과 일러스트가 한 프레임에 섞인 콜라주

    시각적 속성이 다른 영역이 섞이면 탐지기 판단이 불안정해질 수 있습니다.

  • 덧씌운 텍스트가 큰 비중을 차지하는 밈 및 기타 이미지

    큰 텍스트 영역이 탐지기가 의존하는 시각적 흔적을 가릴 수 있어 AI 생성 확률의 신뢰도가 낮아집니다.

TagFake는 이러한 경우를 자동으로 탐지하지 않으므로, 해당 이미지에도 분석 페이지에는 점수가 표시됩니다. 이런 이미지의 결과는 그대로 받아들이기보다 각별히 신중하게 해석하세요.

문의

면책 고지

모든 탐지 결과는 확률적이며 결정적인 증거가 아닙니다. 이 시스템은 고급 알고리즘으로 AI 생성 가능성을 추정하지만 절대적인 확실성을 제공할 수는 없습니다.

  • 오탐과 미탐이 발생할 수 있습니다: 실제 이미지가 AI 생성으로 잘못 표시되거나, AI 생성 이미지가 AUTHENTIC으로 분류될 수 있습니다.
  • 정확도는 일정하지 않습니다: 정확도는 이미지 유형, 생성기, 후편집의 강도에 따라 달라지며 AI 생성 기술은 계속 진화합니다. 어떤 탐지 시스템도 모든 AI 생성 이미지를 완벽한 정확도로 식별할 수 없습니다.
  • 결과를 판단 요소 중 하나로 사용하세요: 결론을 내리기 전에 점수, 히트맵, 이미지 맥락, 다른 출처를 함께 고려하세요.

TagFake를 사용하면 이러한 한계를 이해하고, 이 서비스가 보장된 검증이 아니라 추정 분석을 제공한다는 점에 동의하는 것입니다.