Over TagFake
Wat is TagFake?
TagFake is een webapplicatie die afbeeldingen in X-posts (voorheen Twitter) analyseert en schat hoe waarschijnlijk het is dat elke afbeelding nieuw is gegenereerd door een AI-model. Het combineert de uitvoer van detectoren met visuele heatmaps, zodat u zowel de score als de gebieden die het oordeel hebben beïnvloed kunt onderzoeken.
Het is bedoeld als ondersteunende referentie voor gebruikers van sociale media, factcheckers, journalisten, liefhebbers van digitaal forensisch onderzoek, onderzoekers en iedereen die de authenticiteit van afbeeldingen beoordeelt.
Hoe het werkt
Classificatie van het afbeeldingstype
TagFake gebruikt zero-shot-classificatie van CLIP om te schatten of een afbeelding dichter bij PHOTO of ART ligt. Het resultaat wordt weergegeven als de PHOTO/ART-indicator op de analysepagina.
Detectie van AI-waarschijnlijkheid
De AI-waarschijnlijkheid wordt berekend op basis van beoordelingen door meerdere detectoren.
De volgende detectoren worden in de analyse gebruikt, waaronder kandidaten die nog worden geëvalueerd.
- Frequency Analysis (FFT)
- Noise Analysis
- Error Level Analysis (ELA)
- DIRE (Diffusion Reconstruction Error)
- UniversalFakeDetect (CSID)
- DeepFakeDetectorV2
- AI Image Detector
- TruFor
NSFW-detectie
TagFake gebruikt een eigen methode om te detecteren of geplaatste afbeeldingen gevoelige (NSFW) inhoud bevatten. Afbeeldingen die als NSFW zijn gemarkeerd, worden standaard verborgen op overzichtspagina's en worden zelfs wanneer NSFW-weergave is ingeschakeld alleen in gepixelde vorm getoond. NSFW-detectie heeft geen invloed op de scores voor de waarschijnlijkheid van AI-generatie of manipulatie.
Hoe u uw resultaten leest
AI-waarschijnlijkheid
Een geschatte waarschijnlijkheid dat de afbeelding nieuw is gegenereerd door een AI-model. Berekend op basis van een gewogen ensemble van detectoren en gekalibreerd aan de hand van een evaluatieset.
Het resterende deel van de AI-waarschijnlijkheid (bijvoorbeeld de 20% die overblijft bij een score van 80%) is niet de waarschijnlijkheid dat de afbeelding echt is - het drukt alleen uit hoe zwak kenmerken van AI-generatie zijn gedetecteerd. De dienst beoordeelt niet de mogelijkheid van wijzigingen of compositing anders dan AI-generatie.
Lees de AI-waarschijnlijkheid samen met de heatmap van de AI-basis om te zien waar kenmerken van AI-generatie in de afbeelding zijn gedetecteerd, en beoordeel het resultaat zelf.
Op de overzichten Home, Foto en Kunst worden afbeeldingen verdeeld over twee kolommen, uitsluitend op basis van de AI-waarschijnlijkheid: "AI-waarschijnlijkheid < 50%" en "AI-waarschijnlijkheid ≥ 50%".
Analysevoorbeeld
De twee onderstaande afbeeldingen zijn daadwerkelijk door deze dienst geanalyseerd. Op overzichtspagina's verschijnen afbeeldingen met een AI-waarschijnlijkheid onder de 50% in de linkerkolom, afbeeldingen van 50% of hoger in de rechterkolom, en de paarse balk onderaan elke kaart toont de AI-waarschijnlijkheid.
AI-waarschijnlijkheid < 50%
Een foto van Het meisje met de parel van Vermeer
AI-waarschijnlijkheid ≥ 50%
Een afbeelding gegenereerd met ChatGPT
Hoe u heatmaps leest
De analysepagina toont een heatmap van de AI-basis, die de bewijzen van de voor AI-detectie gebruikte detectoren laag over laag weergeeft volgens het gewicht van elke detector. Donkerdere rode gebieden duiden op regio's met sterker bewijs van AI-generatie. De heatmap is een redeneeraanwijzing van de detectoren - het bewijst niet dat een specifieke regio door AI is gegenereerd.
Gevallen waarin resultaten minder betrouwbaar zijn
De volgende soorten afbeeldingen kunnen buiten het ontwerpbereik van de detectoren vallen, dus de AI-waarschijnlijkheid moet met extra voorzichtigheid worden gelezen.
- Foto's die een ingebedde illustratie, animeposter of schilderij bevatten
Het ingebedde kunstwerk kan op kenmerken van AI-generatie lijken en de AI-waarschijnlijkheid verhogen.
- Echte foto's met toegevoegde stickers, emoji of tekstoverlays
De overlay-elementen kunnen kunstmatige randen en texturen introduceren die de AI-waarschijnlijkheid vertekenen.
- Afbeeldingen met zware kleurfilters, huidverzachting, stilering, generatieve invulling of samengestelde bewerkingen
Sterke bewerkingen kunnen de sporen op pixelniveau waarop de detectoren steunen maskeren of nabootsen, waardoor de AI-waarschijnlijkheid minder betrouwbaar wordt. Lichte aanpassingen die de afbeelding alleen opnieuw coderen - kleur- of belichtingscorrectie, formaatwijziging, formaatconversie - hebben normaal gesproken weinig effect.
- Schermafbeeldingen van telefoon- of pc-schermen, gebruikersinterfaces, webpagina's of code
Artefacten van schermopname en weergave vallen buiten de verwachte invoer van de detectoren, waardoor de AI-waarschijnlijkheid minder betrouwbaar wordt.
- Afbeeldingen die vele malen opnieuw zijn opgeslagen of opnieuw gecodeerd, vooral als JPEG van lage kwaliteit
Compressieruis kan de sporen waarnaar de detectoren zoeken bedelven of erop lijken, waardoor de AI-waarschijnlijkheid in beide richtingen kan uitslaan.
- Diagrammen, grafieken, dia's en andere schematische afbeeldingen
Deze afbeeldingen vallen buiten de foto- en illustratiebereiken waarvoor de detectoren zijn ontworpen, waardoor de AI-waarschijnlijkheid minder betrouwbaar wordt.
- In 3D gerenderde afbeeldingen (zowel gestileerd als fotorealistisch)
Zowel gestileerde als fotorealistische renders kunnen buiten de trainingsdistributie van de detectoren vallen, waardoor de AI-waarschijnlijkheid minder betrouwbaar wordt.
- Collages die foto's en illustraties in één kader combineren
Gemengde gebieden met verschillende visuele eigenschappen kunnen de oordelen van de detectoren instabiel maken.
- Memes en andere afbeeldingen die worden gedomineerd door overlay-tekst
Grote tekstgebieden kunnen de visuele sporen waarop de detectoren steunen bedekken, waardoor de AI-waarschijnlijkheid minder betrouwbaar wordt.
TagFake detecteert deze gevallen niet automatisch, dus de analysepagina toont nog steeds een score voor dergelijke afbeeldingen. Lees resultaten voor afbeeldingen zoals deze met extra voorzichtigheid in plaats van ze voor waar aan te nemen.
Contact
- tagfake@gmail.com
Vrijwaringen
Alle detectieresultaten zijn probabilistisch, geen definitief bewijs. Ons systeem gebruikt geavanceerde algoritmen om de waarschijnlijkheid van AI-generatie te schatten, maar het kan geen absolute zekerheid bieden.
- Fout-positieven en fout-negatieven kunnen voorkomen: authentieke afbeeldingen kunnen ten onrechte als door AI gegenereerd worden gemarkeerd, en door AI gegenereerde afbeeldingen kunnen als authentiek worden geclassificeerd.
- De nauwkeurigheid is niet uniform: de nauwkeurigheid varieert per afbeeldingstype, per generator en per sterkte van nabewerkingen, en AI-generatietechnieken evolueren voortdurend. Geen enkel detectiesysteem kan elke door AI gegenereerde afbeelding met perfecte nauwkeurigheid identificeren.
- Gebruik resultaten als één factor in uw beoordeling: houd rekening met de score, de heatmap, de context van de afbeelding en andere bronnen voordat u conclusies trekt.
Door TagFake te gebruiken erkent u deze beperkingen en gaat u ermee akkoord dat de dienst geschatte analyses biedt, geen gegarandeerde verificatie.