Informazioni su TagFake
Che cos'è TagFake?
TagFake è un'applicazione web che analizza le immagini nei post di X (ex Twitter) e stima quanto sia probabile che ogni immagine sia stata generata da un modello di IA. Combina gli output dei detector con heatmap visive, così Lei può esaminare sia il punteggio sia le aree che hanno influenzato il giudizio.
È pensato come riferimento di supporto per utenti dei social media, fact-checker, giornalisti, appassionati di informatica forense digitale, ricercatori e chiunque esamini l'autenticità delle immagini.
Come funziona
Classificazione del tipo di immagine
TagFake usa la classificazione zero-shot di CLIP per stimare se un'immagine è più vicina a PHOTO o a ART. Il risultato viene mostrato come indicatore PHOTO/ART nella pagina di analisi.
Rilevamento della Probabilità IA
La Probabilità IA viene calcolata dalle valutazioni di più detector.
Nell'analisi vengono usati i seguenti detector, inclusi candidati in fase di valutazione.
- Frequency Analysis (FFT)
- Noise Analysis
- Error Level Analysis (ELA)
- DIRE (Diffusion Reconstruction Error)
- UniversalFakeDetect (CSID)
- DeepFakeDetectorV2
- AI Image Detector
- TruFor
Rilevamento NSFW
TagFake usa un metodo proprio per rilevare se le immagini pubblicate contengono contenuti sensibili (NSFW). Le immagini contrassegnate come NSFW sono nascoste per impostazione predefinita nelle pagine elenco e vengono mostrate solo in forma pixelata anche quando la visualizzazione NSFW è abilitata. Il rilevamento NSFW non influisce sui punteggi di probabilità di generazione IA o di manipolazione.
Come leggere i risultati
Probabilità IA
Una probabilità stimata che l'immagine sia stata generata da un modello di IA. Viene calcolata da un ensemble ponderato di detector e calibrata su un set di valutazione.
La parte restante della Probabilità IA (per esempio, il 20% che rimane da un punteggio dell'80%) non è la probabilità che l'immagine sia autentica: esprime soltanto quanto debolmente siano stati rilevati tratti di generazione IA. Il servizio non valuta la possibilità di alterazioni o compositing diversi dalla generazione IA.
Legga la Probabilità IA insieme alla heatmap della base IA per vedere dove sono stati rilevati nell'immagine i tratti di generazione IA e valuti personalmente il risultato.
Nelle liste Home, Foto e Arte, le immagini sono divise in due colonne esclusivamente in base alla Probabilità IA: "Probabilità IA < 50%" e "Probabilità IA ≥ 50%".
Esempio di analisi
Le due immagini qui sotto sono state effettivamente analizzate da questo servizio. Nelle pagine elenco, le immagini con una probabilità di generazione IA inferiore al 50% appaiono nella colonna di sinistra, quelle al 50% o superiore appaiono nella colonna di destra e la barra viola in fondo a ogni scheda mostra la Probabilità IA.
Probabilità IA < 50%
Una foto della Ragazza con l'orecchino di perla di Vermeer
Probabilità IA ≥ 50%
Un'immagine generata con ChatGPT
Come leggere le heatmap
La pagina di analisi mostra una heatmap della base IA, che sovrappone le evidenze dei detector usati per il rilevamento IA in base al peso di ciascun detector. Le aree rosse più scure indicano regioni con evidenze più forti di generazione IA. La heatmap è un indizio di ragionamento fornito dai detector: non prova che una regione specifica sia stata generata dall'IA.
Casi in cui i risultati sono meno affidabili
I seguenti tipi di immagini possono uscire dall'ambito per cui i detector sono stati progettati, quindi la Probabilità IA va letta con particolare cautela.
- Foto che contengono un'illustrazione, un poster anime o un dipinto incorporato
L'opera incorporata può assomigliare a tratti di generazione IA e aumentare la Probabilità IA.
- Foto reali con adesivi, emoji o sovrapposizioni di testo aggiunti
Gli elementi sovrapposti possono introdurre bordi e texture artificiali che distorcono la Probabilità IA.
- Immagini con filtri colore pesanti, levigatura della pelle, stilizzazione, riempimento generativo o modifiche composite applicate
Modifiche intense possono mascherare o imitare le tracce a livello di pixel su cui si basano i detector, rendendo la Probabilità IA meno affidabile. Regolazioni leggere che si limitano a ricodificare l'immagine - correzione del colore o dell'esposizione, ridimensionamento, conversione di formato - normalmente hanno poco effetto.
- Screenshot di schermi di telefoni o PC, interfacce utente, pagine web o codice
Gli artefatti di acquisizione dello schermo e di visualizzazione sono fuori dall'input atteso dai detector, quindi la Probabilità IA diventa meno affidabile.
- Immagini salvate o ricodificate molte volte, soprattutto come JPEG di bassa qualità
Il rumore di compressione può seppellire o assomigliare alle tracce cercate dai detector, quindi la Probabilità IA può oscillare in entrambe le direzioni.
- Grafici, diagrammi, slide e altre immagini schematiche
Queste immagini rientrano fuori dagli intervalli di foto e illustrazione per cui i detector sono progettati, quindi la Probabilità IA diventa meno affidabile.
- Immagini renderizzate in 3D (sia stilizzate sia fotorealistiche)
Sia i render stilizzati sia quelli fotorealistici possono rientrare fuori dalla distribuzione di addestramento dei detector, rendendo la Probabilità IA meno affidabile.
- Collage che mescolano foto e illustrazioni in un'unica cornice
Regioni miste con proprietà visive diverse possono rendere instabili i giudizi dei detector.
- Meme e altre immagini dominate da testo sovrapposto
Aree di testo estese possono coprire le tracce visive su cui si basano i detector, rendendo la Probabilità IA meno affidabile.
TagFake non rileva automaticamente questi casi, quindi la pagina di analisi mostra comunque un punteggio per immagini di questo tipo. Legga i risultati per immagini simili con particolare cautela, anziché prenderli alla lettera.
Contatti
- tagfake@gmail.com
Avvertenze
Tutti i risultati di rilevamento sono probabilistici, non prove definitive. Il nostro sistema usa algoritmi avanzati per stimare la probabilità di generazione IA, ma non può fornire certezza assoluta.
- Possono verificarsi falsi positivi e falsi negativi: immagini autentiche possono essere erroneamente segnalate come generate dall'IA, e immagini generate dall'IA possono essere classificate come autentiche.
- L'accuratezza non è uniforme: l'accuratezza varia in base ai tipi di immagine, ai generatori e all'intensità delle post-modifiche, e le tecniche di generazione IA evolvono continuamente. Nessun sistema di rilevamento può identificare ogni immagine generata dall'IA con accuratezza perfetta.
- Usi i risultati come un fattore nella Sua valutazione: consideri il punteggio, la heatmap, il contesto dell'immagine e altre fonti prima di trarre conclusioni.
Usando TagFake, Lei riconosce queste limitazioni e accetta che il servizio fornisca analisi stimate, non verifiche garantite.