Über TagFake
Was ist TagFake?
TagFake ist eine Webanwendung, die Bilder in X (ehemals Twitter)-Beiträgen analysiert und schätzt, wie wahrscheinlich es ist, dass jedes Bild neu von einem KI-Modell generiert wurde. Sie kombiniert Detektionsergebnisse mit visuellen Heatmaps, sodass Sie sowohl den Score als auch die Bereiche prüfen können, die das Urteil beeinflusst haben.
Sie dient als unterstützende Referenz für Social-Media-Nutzer, Faktenchecker, Journalisten, digitale Forensik-Enthusiasten, Forscher und alle, die die Authentizität von Bildern überprüfen.
Funktionsweise
Bildtyp-Klassifikation
TagFake verwendet CLIP-Zero-Shot-Klassifikation, um zu schätzen, ob ein Bild eher PHOTO oder ART entspricht. Das Ergebnis wird als PHOTO/ART-Indikator auf der Analyseseite angezeigt.
KI-Wahrscheinlichkeits-Erkennung
Die KI-Wahrscheinlichkeit wird aus den Bewertungen mehrerer Detektoren berechnet.
Die folgenden Detektoren werden bei der Analyse eingesetzt, einschließlich Kandidaten in der Evaluierungsphase.
- Frequency Analysis (FFT)
- Noise Analysis
- Error Level Analysis (ELA)
- DIRE (Diffusion Reconstruction Error)
- UniversalFakeDetect (CSID)
- DeepFakeDetectorV2
- AI Image Detector
- TruFor
NSFW-Erkennung
TagFake verwendet eine eigene Methode, um festzustellen, ob gepostete Bilder sensible (NSFW) Inhalte enthalten. Als NSFW markierte Bilder werden auf Listenseiten standardmäßig ausgeblendet und selbst bei aktivierter NSFW-Anzeige nur in verpixelter Form gezeigt. Die NSFW-Erkennung beeinflusst die KI-Generierungs- oder Manipulationswahrscheinlichkeits-Scores nicht.
Ergebnisse lesen
KI-Wahrscheinlichkeit
Eine geschätzte Wahrscheinlichkeit, dass das Bild neu von einem KI-Modell generiert wurde. Berechnet aus einem gewichteten Ensemble von Detektoren und gegen einen Evaluierungssatz kalibriert.
Der verbleibende Teil der KI-Wahrscheinlichkeit (zum Beispiel die 20 %, die bei einem Score von 80 % übrig bleiben) ist nicht die Wahrscheinlichkeit, dass das Bild echt ist – er drückt nur aus, wie schwach KI-Generierungsmerkmale erkannt wurden. Der Dienst beurteilt nicht die Möglichkeit von Veränderungen oder Kompositionen, die über die KI-Generierung hinausgehen.
Lesen Sie die KI-Wahrscheinlichkeit zusammen mit der KI-Grundlage-Heatmap, um zu sehen, wo KI-Generierungsmerkmale im Bild erkannt wurden, und urteilen Sie selbst.
In den Listen auf der Startseite, Foto und Kunst werden Bilder ausschließlich anhand der KI-Wahrscheinlichkeit in zwei Spalten aufgeteilt: "KI-Wahrscheinlichkeit < 50%" und "KI-Wahrscheinlichkeit ≥ 50%".
Analysebeispiel
Die beiden folgenden Bilder wurden tatsächlich von diesem Dienst analysiert. Auf Listenseiten erscheinen Bilder mit einer KI-Wahrscheinlichkeit unter 50 % in der linken Spalte, Bilder ab 50 % in der rechten Spalte, und der lila Balken am unteren Rand jeder Karte zeigt die KI-Wahrscheinlichkeit.
KI-Wahrscheinlichkeit < 50%
Ein Foto von Vermeers Mädchen mit dem Perlenohrring
KI-Wahrscheinlichkeit ≥ 50%
Ein mit ChatGPT generiertes Bild
Heatmaps lesen
Die Analyseseite zeigt eine KI-Grundlage-Heatmap, die die Belege der für die KI-Erkennung verwendeten Detektoren gemäß dem Gewicht jedes Detektors überlagert. Dunklere rote Bereiche weisen auf Regionen mit stärkerem KI-Generierungsbeleg hin. Die Heatmap ist ein Argumentationshinweis der Detektoren – sie beweist nicht, dass eine bestimmte Region KI-generiert wurde.
Fälle, in denen Ergebnisse weniger zuverlässig sind
Die folgenden Bildtypen können außerhalb des Bereichs liegen, für den die Detektoren konzipiert wurden, daher sollte die KI-Wahrscheinlichkeit mit besonderer Vorsicht gelesen werden.
- Fotos, die eine eingebettete Illustration, ein Anime-Poster oder ein Gemälde enthalten
Das eingebettete Kunstwerk kann KI-Generierungsmerkmalen ähneln und die KI-Wahrscheinlichkeit erhöhen.
- Echte Fotos mit hinzugefügten Stickern, Emojis oder Textüberlagerungen
Die überlagerten Elemente können künstliche Kanten und Texturen einführen, die die KI-Wahrscheinlichkeit verfälschen.
- Bilder mit starken Farbfiltern, Hautglättung, Stilisierung, generativer Füllung oder zusammengesetzten Bearbeitungen
Starke Bearbeitungen können die Pixelebenen-Spuren, auf die sich Detektoren stützen, verdecken oder imitieren und die KI-Wahrscheinlichkeit weniger zuverlässig machen. Leichte Anpassungen, die das Bild nur neu kodieren – Farb- oder Belichtungskorrektur, Größenänderung, Formatkonvertierung – haben normalerweise kaum Einfluss.
- Screenshots von Telefon- oder PC-Bildschirmen, Benutzeroberflächen, Webseiten oder Code
Bildschirmaufnahme- und Anzeigeartifakte liegen außerhalb der erwarteten Eingabe der Detektoren, sodass die KI-Wahrscheinlichkeit weniger zuverlässig wird.
- Bilder, die viele Male neu gespeichert oder neu kodiert wurden, insbesondere als JPEG mit niedriger Qualität
Kompressionrauschen kann die Spuren, nach denen Detektoren suchen, überdecken oder ihnen ähneln, sodass die KI-Wahrscheinlichkeit in beide Richtungen ausschlagen kann.
- Diagramme, Grafiken, Folien und andere schematische Bilder
Diese Bilder liegen außerhalb der Foto- und Illustrationsbereiche, für die die Detektoren konzipiert sind, sodass die KI-Wahrscheinlichkeit weniger zuverlässig wird.
- 3D-gerenderte Bilder (sowohl stilisiert als auch fotorealistisch)
Sowohl stilisierte als auch fotorealistische Renders können außerhalb der Trainingsverteilung der Detektoren liegen und die KI-Wahrscheinlichkeit weniger zuverlässig machen.
- Collagen, die Fotos und Illustrationen in einem Bild kombinieren
Gemischte Bereiche mit unterschiedlichen visuellen Eigenschaften können Detektorurteile instabil machen.
- Memes und andere Bilder, die von überlagertem Text dominiert werden
Große Textbereiche können die visuellen Spuren, auf die sich Detektoren stützen, verdecken und die KI-Wahrscheinlichkeit weniger zuverlässig machen.
TagFake erkennt diese Fälle nicht automatisch, daher zeigt die Analyseseite für solche Bilder weiterhin einen Score. Lesen Sie Ergebnisse für derartige Bilder mit besonderer Vorsicht und nicht unkritisch.
Kontakt
- tagfake@gmail.com
Haftungsausschlüsse
Alle Erkennungsergebnisse sind probabilistisch, kein definitiver Beweis. Unser System verwendet fortschrittliche Algorithmen, um die Wahrscheinlichkeit der KI-Generierung zu schätzen, kann jedoch keine absolute Gewissheit bieten.
- Falsch-Positive und Falsch-Negative können auftreten: Authentische Bilder können fälschlicherweise als KI-generiert markiert werden, und KI-generierte Bilder können als authentisch eingestuft werden.
- Die Genauigkeit ist nicht einheitlich: Die Genauigkeit variiert je nach Bildtyp, Generator und Stärke der Nachbearbeitung, und KI-Generierungstechniken entwickeln sich kontinuierlich weiter. Kein Erkennungssystem kann jedes KI-generierte Bild mit perfekter Genauigkeit identifizieren.
- Verwenden Sie Ergebnisse als einen Faktor in Ihrer Beurteilung: Berücksichtigen Sie Score, Heatmap, Bildkontext und andere Quellen, bevor Sie Schlussfolgerungen ziehen.
Durch die Nutzung von TagFake erkennen Sie diese Einschränkungen an und stimmen zu, dass der Dienst geschätzte Analysen und keine garantierte Verifizierung bereitstellt.