Zadnjih godinu, dvije svjedočimo strelovitom rastu umjetne inteligencije i, što je još važnije, primjene u svakodnevnom životu putem pametnih telefona, osobnih računala i srodnih proizvoda. Da se mnogo toga tijekom ovog razdoblja promijenilo, nije sporno. Mnogi poslovi su automatizirani, a priznat ćete da se dobar dio vas iznimno dobro zabavlja kreiranjem i manipulacijom slika i videa. S druge strane, imamo i novi fenomen, nazvan „AI Slop“, koji kvari iskustvo i doživljaj boravka u cyber prostoru. Najbolji primjer su takve video kreacije, koje zatrpavaju YouTube, a pogotovo TikTok, čiji algoritmi, usprkos deklariranom razdvajanju, zbog zarade upravo forsiraju takav sadržaj.
Rezultat je ogroman digitalni zamor korisnika, a ništa bolje iskustvo ne nude ni društvene mreže, poput recimo, Facebooka, za kojeg sam, s obzirom na količinu plasiranog sranja, sada već prilično uvjeren da ga vodi neki pobunjeni AI algoritam. Možda je onaj AI klon Marka Zuckerberga već zaživio?
Dakle, pored korisnih stvari koje AI era omogućuje, imamo problem što se cijela njegova industrija razvija prebrzo, a u mnogim slučajevima i brzopleto. Oni koji su koristili, ili im je bio nametnut Microsoft Copilot, vjerojatno znaju o čemu govorim.
E sad, ako ste pratili tehnološke vijesti jučer i danas, vjerojatno ste uočili da je Google najavio još jednu „revoluciju“, tektonski poremećaj ili kako god to želite nazvati.
Naime, predstavio je Gemini Intelligence za Android, te prilično pretenciozno najavio da ono što smo dosad poznavali kao „operativni sustav“ sada mijenja ime u „inteligentni sustav“.
Na prvi pogled zvuči kao sljedeći veliki iskorak mobilne umjetne inteligencije, ali iza obećanja o “pametnijem” i “proaktivnijem” telefonu krije se i ozbiljan razlog za skepsu. Što više Google pokušava pretvoriti Android u sustav koji sam predviđa potrebe korisnika i poduzima radnje u njegovo ime, to se više otvara pitanje kontrole, privatnosti i toga koliko bi takav model uopće trebao postati standard budućnosti platforme.
Google danas više ne želi da Gemini bude samo još jedan AI asistent unutar Androida. Njegova ambicija je znatno veća: Gemini Intelligence trebao bi postati sloj koji prožima cijeli sustav, razumije kontekst, povezuje aplikacije i umjesto korisnika obavlja sve veći broj zadataka. Upravo u tome leži i najveći problem. Ono što se predstavlja kao praktičnost lako se može pretvoriti u još jednu fazu Googleova dugog projekta potpunog uvlačenja korisnika u vlastiti ekosustav, sada uz još dublji pristup njihovim navikama, podacima i svakodnevnim rutinama.
Na papiru sve zvuči privlačno. Android bi, uz pomoć Geminija, trebao razumjeti što korisnik radi na ekranu, pomagati pri ispunjavanju obrazaca, povezivati informacije iz više aplikacija, nuditi proaktivne prijedloge i preuzimati dio rutinskih zadataka. No upravo ta ideja o “ manje ručnog rada” krije i vrlo očitu zamku: da bi AI mogao biti toliko koristan, mora znati više, vidjeti više i imati širi pristup nego dosad.
Drugim riječima, Android koji postaje “agent” istodobno postaje i sustav koji traži još dublje povjerenje u jednu kompaniju. Gemini Personal Intelligence već je predstavljen kao način da AI dobije širi pogled na korisnikov digitalni život kroz proizvode poput Gmaila, Photosa, YouTubea i tražilice. Kada se takav model proširi na automatizaciju aplikacija, unos podataka, pregled onoga što je na zaslonu i donošenje prijedloga u stvarnom vremenu, više se ne govori samo o pametnijem pomoćniku, nego o sustavu koji se sve dublje uvlači u privatnu sferu korisnika.
Google pritom inzistira da je sve izgrađeno na eksplicitnoj kontroli korisnika, transparentnosti i zaštiti podataka. Također navodi da Gemini može raditi samo ondje gdje mu korisnik dopusti, da će osjetljive radnje tražiti potvrdu i da će Android ponuditi bolji uvid u to što AI radi u pozadini. Da je navedeno zapravo mrtvo slovo na papiru, najbolje dokazuje nedavno otkriće o tome kako Chrome preglednik na vaše računalo potajno instalira dodatni AI model, težak čak 4GB.
Problem je u tome što se tehnološka industrija već godinama oslanja upravo na isti narativ: izbor, kontrola, privatnost, transparentnost. U praksi se vrlo često pokaže da te zaštite postoje, ali su zakopane duboko u postavkama, razlomljene na više opcija i nejasne čak i naprednijem korisniku.
Još je važnije to što se ovdje ne radi samo o teoretskim zabrinutostima. Google je već ranije potvrdio da se Gemini koristi i od strane zlonamjernih aktera za različite oblike kibernetičkih aktivnosti, uključujući prikupljanje informacija, skriptiranje i pomoć pri tzv. post-kompromitacijskim radnjama. Dodatno zabrinjava i činjenica da su sigurnosni istraživači ove godine otkrili Android malware koji koristi generativni AI model Gemini kako bi se lakše prilagodio okruženju žrtve i manipulirao sučeljem zaraženog uređaja. To ne znači da je Gemini sam po sebi “kriv” za takve napade, ali jasno pokazuje koliko brzo alati zamišljeni za praktičnost mogu postati korisni i na pogrešnoj strani.
Tu dolazimo do još jedne ozbiljne slabosti cijelog koncepta: što je AI dublje integriran u sustav, to je veći potencijal mogućeg rizika. Ako Gemini s vremenom dobije ovlasti da upravlja aplikacijama, prepoznaje sadržaj na zaslonu, ispunjava obrasce i poduzima korake u ime korisnika, tada više nije riječ o pasivnom asistentu, nego o aktivnom izvršitelju unutar operativnog sustava. A čim softver dobije mogućnost djelovanja, svaka pogreška, loša interpretacija ili sigurnosna rupa dobiva i konkretnije posljedice od pukog netočnog odgovora u chatu.
Problem je i u tome što Google takvu budućnost pokušava prikazati kao prirodnu i gotovo neizbježnu evoluciju Androida. No nije nužno da korisnici žele telefon koji stalno procjenjuje kontekst, predlaže poteze i pokušava “biti korak ispred”. Za velik dio ljudi upravo je predvidljivost klasičnog sučelja jedna od ključnih prednosti pametnog telefona: korisnik dodirne ono što želi, aplikacija odradi zadatak i tu priča završava. Što više AI ulazi između korisnika i uređaja, to više raste mogućnost frustracije, pogrešnih pretpostavki i osjećaja da sustav nepotrebno komplicira jednostavne radnje.
Poseban dio kritike odnosi se na činjenicu da se ovakav smjer razvoja ne nudi jednako svima i pod jednakim uvjetima. Google već sada dio naprednijih Gemini značajki lansira postepeno, ograničava ih na određene uređaje ili tržišta te ih veže uz vlastite servise i buduće pretplatničke modele. To stvara dojam da se Android sve manje razvija kao univerzalna platforma, a sve više kao alat za Googleove AI usluge, pri čemu korisnik ne dobiva nužno bolji operativni sustav, nego samo dublje uvučen paket Googleove infrastrukture.
Na kraju, najveći problem Gemini Intelligence sustava možda nije u samoj tehnologiji, nego u logici kojom se ona gura kao budućnost Androida. Google polazi od pretpostavke da je više AI-ja automatski i bolji Android. No ta je hipoteza debelo u oblacima. Mnogi korisnici i dalje žele brz, jasan i predvidljiv sustav, a ne operativni sustav koji ih neprestano analizira kako bi im “pomogao”. Ako Gemini doista postane središnji sloj Android iskustva, Google bi vrlo lako mogao otkriti da nije svaki napredak u automatizaciji istodobno i napredak za korisnika.
