Unatoč prošlotjednim upozorenjima da se alat za generiranje slika na platformi X (bivši Twitter) koristi za kreiranje neprimjerenog sadržaja koji uključuje djecu, Elon Musk i njegova tvrtka xAI nisu uspjeli spriječiti novi val zlouporabe. Njihov chatbot, Grok, postao je alat kojim se masovno generiraju seksualizirane slike žena.
Prema analizi magazina WIRED, Grok svakih nekoliko sekundi izbacuje nove generirane prikaze žena u donjem rublju ili kupaćim kostimima. U testnom razdoblju od samo pet minuta zabilježeno je najmanje 90 takvih objava.
Mainstream alat za uznemiravanje
Iako slike tehnički ne sadrže potpunu golotinju, mehanizam funkcionira na principu digitalnog "svlačenja". Korisnici u upitima traže od Groka da postojeće fotografije stvarnih žena, od političarki i influencerica do privatnih osoba, modificira tako da one nose "prozirne bikinije" ili oskudno donje rublje.
Dok alati za "nudifikaciju" postoje već godinama u mračnijim kutovima interneta, Grok predstavlja presedan jer je riječ o mainstream alatu dostupnom milijunima. Za razliku od specijaliziranih softvera koji se plaćaju, Grok je brz, integriran u popularnu društvenu mrežu i ne zahtijeva nikakvo tehničko predznanje, čime se normalizira kreiranje nekonsenzualnog intimnog sadržaja.
"Kada tvrtka ponudi generativne AI alate na svojoj platformi, njezina je odgovornost minimizirati rizik od zlouporabe," ističe Sloan Thompson, direktorica edukacije u organizaciji EndTAB koja se bori protiv tehnološkog nasilja. "Zastrašujuće je što je X učinio upravo suprotno. Ugradili su alat za zlostavljanje izravno u mainstream platformu, čineći seksualno nasilje lakšim i skalabilnijim."
Političarke i civili kao mete
Sustav ne bira žrtve. Nedavni primjeri uključuju zahtjeve korisnika da se fotografije zamjenice švedskog premijera te ministrica u vladi Ujedinjenog Kraljevstva modificiraju kako bi ih se prikazalo u bikinijima. Jednako su pogođene i žene koje nisu javne osobe; fotografije iz teretane ili dizala pretvaraju se u seksualizirani sadržaj uz jednostavne naredbe poput: "Promijeni joj odjeću u minijaturni bikini."
Jedan neimenovani analitičar koji godinama prati deepfake pornografiju ističe da je Grok postao jedna od najvećih platformi za ovakav sadržaj. "Ovo više nije djelo sumnjivih skupina iz sjene. To sada rade svi, sa svojih glavnih profila, bez ikakve zabrinutosti," upozorava analitičar.
Reakcije regulatora i šutnja X-a
Dok se Elon Musk i xAI nisu očitovali o ovom problemu, službeni profil za sigurnost na platformi X tvrdi da zabranjuju ilegalni sadržaj i manipulirane medije. Ipak, njihova pravila o nekonsenzualnoj golotinji datiraju iz 2021. godine, prije Muskovog preuzimanja tvrtke.
Međunarodni pritisak raste. Vlade u Francuskoj, Indiji i Maleziji već su izrazile zabrinutost, dok je britanska ministrica tehnologije Liz Kendall situaciju nazvala "apsolutno užasavajućom i neprihvatljivom". U SAD-u će sredinom svibnja na snagu stupiti zakon "TAKE IT DOWN Act", koji će prisiliti platforme da u roku od 48 sati reagiraju na prijave nekonsenzualnih intimnih slika, no pitanje je hoće li to biti dovoljno brzo s obzirom na brzinu kojom Grok generira novi sadržaj.
