Ako se često oslanjate na "AI sažetke" u Google tražilici, razmislite još jednom. Naime, Google se zbog njih sve češće suočava s iznimno ozbiljnim optužbama. Prema najnovijem izvješću Instituta za sigurnost mladih i umjetne inteligencije pri organizaciji Common Sense Media, Googleovi AI sažeci izlažu djecu rizicima koje postojeći sigurnosni filtri ne mogu ublažiti. Zbog brojnih propusta, platformi je dodijeljena ukupna ocjena "neprihvatljiv rizik".
Povezano: Za greške u AI Sažecima Google snosi odgovornost, zaključio je sud
Kako bi testirali učinkovitost Googleovih sigurnosnih mehanizama u stvarnim uvjetima, istraživači su koristili račune prilagođene 11-godišnjim i 15-godišnjim korisnicima s aktiviranom opcijom SafeSearch. Ova postavka usko odražava način na koji većina djece pristupa tražilici na osobnim pametnim telefonima i uređajima pod nadzorom škole. Tijekom istraživanja provedeno je više od 2600 pretraživanja te je analizirano preko 2100 odgovora koje je generirala umjetna inteligencija.
Rezultati oslikavaju prilično alarmantnu sliku. Istraživači su detektirali niz kritičnih problema:
-
Pisanje zadaća umjesto poticanja učenja: AI sažeci redovito su nudili gotova rješenja za domaće zadaće, umjesto da djeci služe kao edukativni alat.
-
Netočne informacije (halucinacije): Određeni odgovori sadržavali su potpuno izmišljene ili činjenično pogrešne podatke.
-
Opasne upute: Sustav je u nekim slučajevima generirao upute za opasne ili štetne radnje, uključujući i detaljne korake za izradu deepfake materijala.
-
Zastarjela pomoć u kriznim situacijama: Umjetna inteligencija često je zakazala u prepoznavanju upita povezanih s mentalnim zdravljem, a u jednom je ekstremnom slučaju korisnika u krizi uputila na zastarjelu i neaktivnu liniju za pomoć.
Jedna od glavnih kritika izvješća odnosi se na činjenicu da roditelji imaju iznimno ograničenu kontrolu nad ovim AI odgovorima. Budući da su AI sažeci duboko integrirani u samu Google tražilicu, generalno ih nije moguće isključiti na jednostavan i izravan način (iako postoje zaobilazna rješenja). To u praksi znači da će ih djeca vidjeti čak i kada je uključen obiteljski SafeSearch.
Predstavnici organizacije Common Sense Media upozoravaju da čak 75 % američkih tinejdžera i mlađih adolescenata već aktivno koristi AI generirane rezultate pretraživanja, što ukazuje na to da ovi sigurnosni propusti utječu na ogroman broj korisnika.
Google, očekivano, oštro odbacuje navode iz izvješća. U službenom priopćenju za PBS News poručili su kako je većina testiranih upita bila "dvosmislena i iskonstruirana" te da izvješće ne pruža točan prikaz načina na koji stvarni ljudi svakodnevno koriste tražilicu.
Ova je evaluacija tek dio šireg programa analize umjetne inteligencije koji provodi Common Sense Media, a koji mjeri digitalne proizvode prema osam strogih načela, uključujući sigurnost, pouzdanost, poštenje i odgovorno korištenje podataka. S obzirom na to da će odgovori generirani umjetnom inteligencijom postati trajni i nezaobilazni dio Googleove tražilice, ovaj će izvještaj zasigurno pojačati pritisak na tvrtku da dokaže kako tehnološka praktičnost ne dolazi nauštrb sigurnosti i mentalnog zdravlja djece.
