Pod pritiskom novih EU regulativa, OpenAI započinje s implementacijom "nevidljivog vodenog žiga" za sve tekstove koje generiraju njihovi jezični modeli ChatGPT i Codex. Odgovor je to na Zakon o umjetnoj inteligenciji (EU AI Act), čija su pravila o transparentnosti stupila na snagu početkom kolovoza, a koja od tehnoloških kompanija zahtijevaju da sadržaj stvoren umjetnom inteligencijom bude jasno prepoznatljiv drugim sustavima.
Ova značajka će biti implementirana u nadolazećim tjednima, ali isključivo za korisnike unutar Europske unije. Iako će opcija biti globalno dostupna programerima koji koriste OpenAI-jev API, ona će prema zadanim postavkama biti isključena. Kompanija za sada odbija uvesti globalno označavanje teksta kao standardnu praksu.
Tehnologija koju je OpenAI detaljno opisao pod nazivom textGrain, razvijena je u suradnji sa sveučilištima Pennsylvania i Yale. Vodeni žig nije vidljiv simbol, već algoritam koji suptilno manipulira odabirom riječi i predviđanjem rečeničnih konstrukcija pomoću tajnog koda. Rezultat je statistički uzorak koji je ljudskom oku nevidljiv, ali ga specijalizirani detektori mogu s lakoćom očitati.
Iz OpenAI-ja naglašavaju da ovaj mehanizam ne prikuplja osobne podatke korisnika niti narušava kvalitetu i performanse samih modela.
Ipak, usprkos sofisticiranoj tehnologiji, sustav je daleko od neprobojnog. OpenAI-jevi vlastiti testovi pokazuju da se ovaj "vodeni žig" može relativno lako izbrisati uređivanjem. Primjerice, zamjena samo 10 posto riječi sinonimima smanjuje točnost detekcije s 92 na 66 posto. Sustav također gubi na učinkovitosti kod vrlo kratkih tekstova, matematičkih izračuna i jezičnih prijevoda.
Upravo zbog ovih ograničenja, tvrtka će pristup detektoru prvotno omogućiti isključivo odobrenim istraživačima i stručnim organizacijama, koji će pomoći u daljnjoj evaluaciji pouzdanosti. Kompanija također upozorava na važan detalj: izostanak vodenog žiga ne dokazuje da je autor teksta čovjek. Tekst je mogao biti izmijenjen, prekratak za detekciju ili generiran putem drugih AI alata.
Potez OpenAI-ja dolazi dva mjeseca nakon što je Anthropic uveo sličnu stvar za svoj Claude. Ta je odluka tada izazvala oštre kritike korisnika koji su tvrdili da AI služi samo kao alat, dok intelektualni doprinos, kontekst i odluke pripadaju korisniku. Prema ranijim medijskim izvješćima, OpenAI je do sada oklijevao s uvođenjem ove tehnologije prvenstveno iz straha da će korisnici masovno prijeći konkurentima koji ne koriste slične metode označavanja.
