Google Discover feed postao je nezaobilazan dio svakodnevice milijuna korisnika Androida, služeći kao personalizirani prozor u svijet vijesti i interesa. No, Googleova agresivna integracija umjetne inteligencije u ovaj prostor upravo je najavila moguće promjene, koje su, najblaže rečeno, na putu da dodatno srozaju kvalitetu ionako lošeg online prostora. Tvrtka je počela testirati funkciju koja automatski zamjenjuje originalne naslove novinskih članaka onima koje generira AI, a rezultati su, blago rečeno, zabrinjavajući.
Kako izvještava The Verge, ovaj tihi eksperiment rezultirao je nizom naslova koji su netočni, lišeni konteksta ili pak graniče s najgorim oblikom clickbaita.
AI koji ne razumije kontekst (niti istinu)
Problem nije samo u estetici, već u činjenici da Googleov AI često potpuno iskrivljuje smisao izvornog teksta. Umjesto da sažme informaciju, algoritam stvara nove naslove od četiri-pet riječi koji često nemaju veze s istinom.
Evo nekoliko drastičnih primjera koje je zabilježio The Verge:
-
PC Gamer: Originalni, duhoviti naslov o igri Baldur's Gate 3 glasio je: "'Dječji rad je nepobjediv': Igrači Baldur's Gate 3 otkrili kako stvoriti vojsku neuništivih klinaca pomoću moći polimorfa i njemačkih medijskih zakona."
-
Googleov AI naslov: "Igrači BG3 iskorištavaju djecu." (Potpuni gubitak konteksta koji zvuči kao ozbiljna optužba, a ne mehanika u videoigri).
-
-
9to5Google: Članak koji je savjetovao korisnike da ne kupuju određeni bežični punjač jer neće dobiti veće brzine ("Don’t buy a Qi2 25W wireless charger hoping for faster speeds..."), Google je pretvorio u dezinformaciju.
-
Googleov AI naslov: "Qi2 usporava starije Pixele." (Tehnički netočna tvrdnja koju originalni tekst uopće nije iznio).
-
-
Ars Technica: Za članak o Steam Machine konzoli, AI je izmislio informaciju koja u tekstu ne postoji.
-
Googleov AI naslov: "Otkrivena cijena Steam Machinea." (Članak uopće nije otkrio cijenu).
-
Udarac na vjerodostojnost medija
Ovaj eksperiment otvara ozbiljna etička pitanja. Google nigdje ne navodi da je naslov generirala umjetna inteligencija, niti da on ne potječe od samog izdavača. Korisnik koji vidi lažnu vijest ili loš naslov u svom Discover feedu prirodno će pretpostaviti da je to djelo novinara portala na koji je kliknuo, a ne Googleovog algoritma. To izravno šteti reputaciji medija koji nemaju kontrolu nad time kako se njihov sadržaj prezentira.
Google: "Ovo je samo test"
Kao odgovor na upite, glasnogovornik Googlea potvrdio je za The Verge da se radi o "manjem UI eksperimentu na podskupu korisnika Discovera".
"Testiramo novi dizajn koji mijenja položaj postojećih naslova kako bi detalji o temi bili lakše probavljivi prije nego što korisnici istraže poveznice s weba", izjavili su iz Googlea.
Iako ova izjava sugerira da funkcija (još) neće biti puštena u široku upotrebu, sama činjenica da je Google spreman pustiti ovako nekvalitetan i sklon halucinacijama proizvod među stvarne korisnike, bez ikakve oznake upozorenja, izaziva zabrinutost u tehnološkoj zajednici, a realno bi trebala i puno šire.
Nadamo se samo da ovo neće biti još jedna epizoda ugovnjavanja.
