YouTube već godinama pokušava izgraditi imidž sigurne platforme za najmlađe, ali novi val sadržaja generiranog umjetnom inteligencijom izazvao je oštre reakcije javnosti. Velika skupina stručnjaka za dječji razvoj sada od Googlea zahtijeva hitnu intervenciju, pa čak i potpunu zabranu preporučivanja takvih videozapisa.
Kako prenosi Bloomberg, više od 200 pedijatara, udruga za zaštitu djece i obrazovnih institucija uputilo je otvoreno pismo izvršnom direktoru Googlea Sundaru Pichaiju i čelniku YouTubea Nealu Mohanu. U pismu se izričito traži uklanjanje AI generiranih videa iz algoritamskih preporuka na standardnom YouTubeu, kao i na specijaliziranoj aplikaciji YouTube Kids. Stručnjaci su posebno oštri prema masovno produciranom sadržaju niske kvalitete, popularno nazanom AI Slop, čiji je jedini cilj zadržavanje pažnje, bez ikakve stvarne edukativne vrijednosti.
"Nekontrolirani eksperiment" nad najmlađima
Zabrinutost stručnjaka seže mnogo dublje od same kvalitete videa. U pismu se upozorava da takav sadržaj može negativno utjecati na dječji raspon pažnje te zamagliti osjetljivu granicu između stvarnosti i fikcije. Uz to, naglašava se dobro poznat problem modernog roditeljstva: vrijeme provedeno pred ekranom sve više istiskuje stvarnu igru i socijalnu interakciju u fizičkom svijetu.
Potpisnici tvrde da YouTube trenutno provodi svojevrsni "nekontrolirani eksperiment" nad djecom, agresivno promovirajući AI sadržaj bez ikakvih znanstvenih dokaza o njegovoj korisnosti ili sigurnosti za dječji razvoj.
YouTubeova obrana i Googleovi paradoksi
Iz YouTubea poručuju da ne ignoriraju problem. Glasnogovornik tvrtke izjavio je da se AI generirani sadržaj na YouTube Kidsu već sada ograničava na uski krug provjerenih kanala, uz strogu obvezu kreatora da jasno označe videozapise stvorene umjetnom inteligencijom. Također, kompanija tvrdi da je njezin sustav dizajniran tako da automatski penalizira masovno producirani spam. Međutim, kritičari smatraju da te mjere jednostavno nisu dovoljne.
Situaciju dodatno komplicira dvostruka poruka koja stiže iz samog Googlea. Dok se kompanija suočava sa zahtjevima za strožu regulaciju, Google je nedavno uložio u Animaj, AI animacijski studio specijaliziran za produkciju YouTube videa za mlađu publiku. Autori pisma upozoravaju da ovakvi poslovni potezi ohrabruju dodatno vrijeme pred ekranima, što posebno zabrinjava kada je riječ o "bebama i maloj djeci koja uopće ne bi trebala biti izložena ekranima".
Pravni i društveni pritisak
Ova afera dolazi u izrazito nezgodnom trenutku za Googleovu krovnu kompaniju Alphabet, koja je već pod snažnim pritiskom regulatora i javnosti zbog utjecaja svojih platformi na maloljetnike. Nedavna presuda američke porote proglasila je Google i Metu odgovornima u sudskom sporu vezanom uz izazivanje ovisnosti o društvenim mrežama. Iako obje kompanije planiraju uložiti žalbe na tu presudu, najnoviji sukob oko AI sadržaja postavlja dodatna pitanja o Googleovoj stvarnoj strategiji i pristupu najmlađim korisnicima.
