O serwisie TagFake
Czym jest TagFake?
TagFake to aplikacja internetowa, która analizuje obrazy w postach serwisu X (dawniej Twitter) i ocenia, jakie jest prawdopodobieństwo, że każdy obraz został wygenerowany od nowa przez model AI. Łączy wyniki detektorów z wizualnymi mapami cieplnymi, dzięki czemu można sprawdzić zarówno wynik, jak i obszary, które wpłynęły na ocenę.
Serwis jest przeznaczony jako narzędzie pomocnicze dla użytkowników mediów społecznościowych, fact-checkerów, dziennikarzy, entuzjastów i specjalistów cyfrowej kryminalistyki, badaczy oraz wszystkich, którzy weryfikują autentyczność obrazów.
Jak to działa
Klasyfikacja typu obrazu
TagFake używa klasyfikacji zero-shot CLIP, aby ocenić, czy obraz jest bliższy PHOTO czy ART. Wynik jest wyświetlany na stronie analizy jako wskaźnik PHOTO/ART.
Wykrywanie prawdopodobieństwa AI
Prawdopodobieństwo AI jest obliczane na podstawie ocen wielu detektorów.
W analizie używane są następujące detektory, w tym kandydaci będący w fazie oceny.
- Frequency Analysis (FFT)
- Noise Analysis
- Error Level Analysis (ELA)
- DIRE (Diffusion Reconstruction Error)
- UniversalFakeDetect (CSID)
- DeepFakeDetectorV2
- AI Image Detector
- TruFor
Wykrywanie NSFW
TagFake stosuje własną metodę wykrywania, czy opublikowane obrazy zawierają wrażliwe treści (NSFW). Obrazy oznaczone jako NSFW są domyślnie ukryte na stronach list i wyświetlane wyłącznie w formie spikselowanej, nawet gdy włączone jest wyświetlanie NSFW. Wykrywanie NSFW nie wpływa na wyniki prawdopodobieństwa generowania przez AI ani manipulacji.
Jak interpretować wyniki
Prawdopodobieństwo AI
Szacowane prawdopodobieństwo, że obraz został wygenerowany od nowa przez model AI. Obliczane na podstawie ważonego zbioru detektorów i kalibrowane względem zestawu oceniającego.
Pozostała część prawdopodobieństwa AI (na przykład 20% pozostałe przy wyniku 80%) nie jest prawdopodobieństwem, że obraz jest autentyczny — wyraża jedynie, jak słabo wykryto cechy generowania przez AI. Serwis nie ocenia możliwości wprowadzenia zmian ani kompozytowania innego niż generowanie przez AI.
Odczytuj prawdopodobieństwo AI wraz z mapą cieplną podstaw AI, aby zobaczyć, gdzie w obrazie wykryto cechy generowania przez AI, i samodzielnie oceń wynik.
Na stronie głównej oraz w listach Zdjęcie i Grafika obrazy są dzielone na dwie kolumny wyłącznie na podstawie prawdopodobieństwa AI: "Prawdopodobieństwo wygenerowania przez AI < 50%" i "Prawdopodobieństwo wygenerowania przez AI ≥ 50%".
Przykład analizy
Dwa poniższe obrazy zostały faktycznie przeanalizowane przez ten serwis. Na stronach list obrazy z prawdopodobieństwem wygenerowania przez AI poniżej 50% pojawiają się w lewej kolumnie, obrazy z wynikiem 50% lub wyższym — w prawej, a fioletowy pasek na dole każdej karty pokazuje prawdopodobieństwo wygenerowania przez AI.
Prawdopodobieństwo wygenerowania przez AI < 50%
Zdjęcie obrazu Vermeera "Dziewczyna z perłą"
Prawdopodobieństwo wygenerowania przez AI ≥ 50%
Obraz wygenerowany przy użyciu ChatGPT
Jak odczytywać mapy cieplne
Strona analizy wyświetla mapę cieplną podstaw AI, która nakłada dowody z detektorów używanych do wykrywania AI zgodnie z wagą każdego detektora. Ciemniejsze czerwone obszary wskazują miejsca z silniejszymi dowodami na generowanie przez AI. Mapa cieplna jest wskazówką dotyczącą rozumowania detektorów — nie dowodzi, że dany obszar został wygenerowany przez AI.
Przypadki, gdy wyniki są mniej wiarygodne
Następujące typy obrazów mogą wykraczać poza zakres, dla którego detektory zostały zaprojektowane, dlatego prawdopodobieństwo AI należy interpretować ze szczególną ostrożnością.
- Zdjęcia zawierające wbudowaną ilustrację, plakat anime lub obraz
Wbudowane dzieło sztuki może przypominać cechy generowania przez AI i podwyższać prawdopodobieństwo AI.
- Prawdziwe zdjęcia z naklejonymi naklejkami, emoji lub nakładkami tekstowymi
Nakładane elementy mogą wprowadzać sztuczne krawędzie i tekstury, które zaburzają prawdopodobieństwo AI.
- Obrazy z mocnymi filtrami kolorów, wygładzaniem skóry, stylizacją, generatywnym wypełnieniem lub złożonymi edycjami
Silne edycje mogą maskować lub naśladować ślady na poziomie pikseli, na których opierają się detektory, przez co prawdopodobieństwo AI staje się mniej wiarygodne. Lekkie korekty, które jedynie ponownie kodują obraz — korygowanie kolorów lub ekspozycji, zmiana rozmiaru, konwersja formatu — zazwyczaj mają niewielki wpływ.
- Zrzuty ekranu telefonu lub komputera, interfejsów użytkownika, stron internetowych lub kodu
Artefakty przechwytywania ekranu i wyświetlania wykraczają poza oczekiwane dane wejściowe detektorów, przez co prawdopodobieństwo AI staje się mniej wiarygodne.
- Obrazy wielokrotnie zapisywane lub przekodowywane, zwłaszcza jako niskej jakości JPEG
Szum kompresji może ukrywać lub naśladować ślady, których szukają detektory, przez co prawdopodobieństwo AI może przesuwać się w obie strony.
- Wykresy, diagramy, slajdy i inne obrazy schematyczne
Takie obrazy wykraczają poza zakresy zdjęć i ilustracji, dla których zaprojektowano detektory, przez co prawdopodobieństwo AI staje się mniej wiarygodne.
- Obrazy renderowane w 3D (zarówno stylizowane, jak i fotorealistyczne)
Zarówno stylizowane, jak i fotorealistyczne rendery mogą wykraczać poza rozkład treningowy detektorów, przez co prawdopodobieństwo AI staje się mniej wiarygodne.
- Kolaże łączące zdjęcia i ilustracje w jednej ramce
Mieszane obszary o różnych właściwościach wizualnych mogą sprawiać, że oceny detektorów stają się niestabilne.
- Memy i inne obrazy zdominowane przez nakładany tekst
Duże obszary tekstowe mogą zakrywać ślady wizualne, na których opierają się detektory, przez co prawdopodobieństwo AI staje się mniej wiarygodne.
TagFake nie wykrywa takich przypadków automatycznie, dlatego strona analizy nadal wyświetla wynik dla takich obrazów. Interpretuj wyniki dla tego rodzaju obrazów ze szczególną ostrożnością, a nie dosłownie.
Kontakt
- Adres e-mail
- tagfake@gmail.com
Zastrzeżenia
Wszystkie wyniki wykrywania mają charakter probabilistyczny, a nie stanowią ostatecznego dowodu. Nasz system używa zaawansowanych algorytmów do szacowania prawdopodobieństwa generowania przez AI, ale nie może zapewnić absolutnej pewności.
- Mogą wystąpić fałszywe alarmy i przeoczenia: autentyczne obrazy mogą zostać błędnie oznaczone jako wygenerowane przez AI, a obrazy wygenerowane przez AI mogą zostać sklasyfikowane jako autentyczne.
- Dokładność nie jest jednolita: dokładność różni się w zależności od typu obrazu, generatora i stopnia edycji po wygenerowaniu, a techniki generowania przez AI stale ewoluują. Żaden system wykrywania nie może z idealną dokładnością zidentyfikować każdego obrazu wygenerowanego przez AI.
- Używaj wyników jako jednego z czynników oceny: bierz pod uwagę wynik, mapę cieplną, kontekst obrazu i inne źródła przed wyciąganiem wniosków.
Korzystając z TagFake, przyjmujesz do wiadomości te ograniczenia i zgadzasz się, że serwis dostarcza analizę szacunkową, a nie gwarantowaną weryfikację.