Googleov alat AI Overviews (sažeci na vrhu liste relutata pretraživanja) našao se u središtu ozbiljnog pravnog presedana nakon što je sud u Njemačkoj zaključio da tvrtka može biti odgovorna za netočne informacije koje taj sustav generira i prikazuje korisnicima. Time je prvi put jasno naznačeno da odgovornost za pogreške umjetne inteligencije ne mora ostati samo na razini tehnologije ili algoritma, nego se može izravno vezati uz kompaniju koja tu tehnologiju plasira javnosti.
Povezano: Nepouzdani AI sažeci pretraživanja frustriraju korisnike. Razmislite o alternativama
Odluka bi mogla imati mnogo šire posljedice od jednog pojedinačnog slučaja. AI Overviews posljednjih mjeseci postao je jedan od najvidljivijih primjera Googleova pokušaja da pretraživanje pretvori u iskustvo vođeno umjetnom inteligencijom, no istodobno su se gomilali primjeri netočnih, zbunjujućih ili potpuno promašenih odgovora. Sudska odluka sada sugerira da takve pogreške više neće biti moguće promatrati kao bezazlene propuste eksperimentalne tehnologije.
Bit slučaja leži u tome što AI Overviews nije skrivena funkcija niti alat koji korisnici moraju posebno aktivirati, nego sve prisutniji istaknuti dio samog Googleova pretraživanja. Budući da se takvi odgovori korisnicima prikazuju kao sažeti i autoritativni prikaz informacija, otvara se pitanje kolika je odgovornost Googlea kada sustav ponudi netočan ili štetan sadržaj. Upravo na toj točki sud je, prema dostupnim informacijama, zauzeo mnogo čvršći stav nego što su tehnološke tvrtke dosad priželjkivale.
Za Google je ovo posebno osjetljiv trenutak jer ovu značajku promiče kao jednu od ključnih budućnosti pretraživanja. Ako se pravna praksa počne razvijati u smjeru izravne odgovornosti za AI odgovore, to bi moglo natjerati Google i druge kompanije da značajno opreznije uvode generativne sažetke, posebno u osjetljivim područjima gdje pogreška može imati ozbiljne posljedice.
Šire gledano, ova presuda mogla bi postati važan signal cijeloj industriji umjetne inteligencije. Nije više riječ samo o tome može li AI pogriješiti, nego i o tome tko odgovara kada se takva pogreška predstavi kao pouzdana informacija unutar jednog od najvećih digitalnih proizvoda na svijetu. Upravo zato slučaj nadilazi Google i otvara novo poglavlje u raspravi o odgovornosti, transparentnosti i granicama automatiziranog informiranja.
