Ako bismo 2025. godinu morali opisati jednim trendom, to bi bila sveprisutnost tzv. AI slopa – poplave niskokvalitetnog, generičkog sadržaja generiranog umjetnom inteligencijom koji je preplavio internet. Alati za generiranje postali su toliko sofisticirani da je razlikovanje stvarne snimke od sintetičke postalo gotovo nemoguć zadatak za ljudsko oko.
Kao odgovor na taj izazov, Google je nedavno u svoju Gemini aplikaciju uveo mogućnost detekcije AI slika, a sada tu funkcionalnost proširuje i na videozapise. Iako je ovo korak u pravom smjeru, tehnologija nije svemoguća.
Kako funkcionira provjera?
Google ističe da korisnici sada mogu izravno unutar Gemini aplikacije provjeriti je li određeni videozapis kreiran ili editiran pomoću Googleovih AI alata. Proces je zamišljen kao razgovor s chatbotom:
-
Korisnik učita sumnjivi videozapis.
-
Postavi pitanje, primjerice: "Je li ovaj video generiran pomoću Google AI-ja?"
-
Gemini analizira datoteku tražeći nevidljive digitalne tragove.
Sustav skenira vizualne i audio zapise u potrazi za SynthID vodenim žigom. Rezultat analize je precizan, Gemini će vas obavijestiti koji točno segmenti sadrže sintetičke elemente, uz odgovore poput: "SynthID detektiran u audio zapisu između 10. i 20. sekunde. Nije detektiran u vizualnom dijelu."
Ova funkcionalnost, najavljena uz nedavni izlazak Nano Banana Pro modela, sada je dostupna u svim zemljama i jezicima koje podržava Gemini aplikacija. Postoje, međutim, tehnička ograničenja: učitane datoteke ne smiju biti veće od 100 MB niti duže od 90 sekundi.
Ahilova peta: Problem standardizacije
Iako je dostupnost ovakvog alata dobra vijest, on pati od ozbiljnog problema fragmentacije tržišta: ne koriste svi SynthID.
SynthID je tehnologija vodenog žiga koju koristi Google u svojim alatima, a podržavaju je i partneri poput NVIDIA-e i Hugging Facea. Međutim, ostatak golemog AI ekosustava, uključujući mnoge popularne generatore videa drugih kompanija, ne koristi ovaj standard.
To znači da Gemini neće moći identificirati lažni video ako je on kreiran alatom koji ne implementira SynthID. Ako napadač koristi konkurentski softver bez vodenog žiga, Gemini će na upit vjerojatno odgovoriti da ne detektira manipulaciju, što korisnika može dovesti u zabludu.
Dok se cijela industrija ne ujedini oko zajedničkog standarda za označavanje AI sadržaja, alati poput ovog ostaju tek djelomična rješenja u sve težoj borbi protiv dezinformacija.
