Zamislite da se vaša cjelokupna povijest internetskih pretraga, uključujući najintimnija medicinska pitanja, pokušaje varanja na ispitima ili neobične fantazije, objavi javno, povezana s vašim imenom i profilnom slikom. Za korisnike nove platforme Meta AI, to nije hipotetsko pitanje, već šokantna i opasna stvarnost.
U potezu koji se može opisati jedino kao diletantski ili kao namjerno ignoriranje svih lekcija iz povijesti interneta, Meta je odlučila da se upiti korisnika upućeni njihovom AI asistentu objavljuju na javnom "Discover" feedu. Kako prenosi BBC, a potvrđuje i detaljnija analiza portala TechCrunch, korisnici nesvjesno svijetu otkrivaju svoje tajne, vjerujući da vode privatan razgovor s chatbotom.
Rezultat je digitalna sramota u nastajanju. BBC je pronašao primjere studenata koji učitavaju slike ispitnih pitanja i traže od AI-ja da im riješi zadatke. Drugi korisnici, čiji su profili lako sljedivi do njihovih Instagram računa, traže od AI-ja da generira slike oskudno odjevenih animiranih likova. TechCrunch ide i dalje, navodeći primjere korisnika koji postavljaju intimna medicinska pitanja, poput onog kako se riješiti osipa na unutarnjoj strani bedra, ili traže savjete kako upoznati "žene s velikom stražnjicom".
Katastrofalna Dizajnerska Odluka
Problem nije bug, već temeljna i neshvatljiva dizajnerska odluka. Iz Mete se brane tvrdnjom da korisnici moraju izričito odabrati da podijele svoj upit te da se pritom pojavljuje upozorenje. No, kako ističe Rachel Tobac, stručnjakinja za internetsku sigurnost, to je "ogroman problem za korisničko iskustvo i sigurnost".
"Korisnici ne očekuju da će njihove interakcije s AI chatbotom biti javne na feedu koji je inače povezan s društvenim mrežama", izjavila je Tobac, dodajući da zbog tog nesporazuma korisnici "nenamjerno objavljuju osjetljive informacije na javnom feedu, povezane sa svojim identitetom".
TechCrunch je još oštriji, nazivajući cijelu ideju "suludom" i podsjećajući na zloglasni skandal iz 2006. godine kada je AOL objavio anonimizirane pretrage svojih korisnika, što se pretvorilo u prvorazrednu katastrofu. Čini se da u Meti ili ne poznaju povijest ili su smatrali da je javno sramoćenje korisnika dobar način za privlačenje pozornosti na proizvod koji, usput rečeno, nitko ne koristi.
Komercijalni Neuspjeh kao Šlag na Torti
Da stvar bude gora po Metu, ova riskantna strategija nije se isplatila. Prema podacima tvrtke Appfigures, aplikacija Meta AI preuzeta je svega 6,5 milijuna puta od svog lansiranja krajem travnja. Za jednu od najbogatijih kompanija na svijetu koja je uložila milijarde u ovu tehnologiju, to je poražavajući neuspjeh.
Dok feed nastavlja rasti, puni se i sadržajem koji otvoreno ismijava platformu – od korisnika koji objavljuju svoj životopis i traže posao u kibernetičkoj sigurnosti do onih koji traže upute za izradu bonga od boce za vodu.
U konačnici, Meta AI u svom trenutnom obliku nije ništa drugo nego recept za katastrofu – platforma koja fundamentalno ne poštuje privatnost korisnika, temeljena na ideji koju je industrija već odbacila kao opasnu, a koja uz sve to ne uspijeva privući ni minimalan interes javnosti.
