Grupa istraživača sa Sveučilišta u Zürichu tajno je provela višemjesečni eksperiment u jednoj od najpopularnijih Reddit zajednica, r/changemyview, koristeći komentare generirane umjetnom inteligencijom kako bi ispitala koliko učinkovito veliki jezični modeli (LLM-ovi) mogu utjecati na mišljenja korisnika. Moderatori subreddita opisali su projekt kao "psihološku manipulaciju" nad nesvjesnim korisnicima
U objavi kojom su obavijestili zajednicu, moderatori r/changemyview objasnili su da su istraživači koristili LLM-ove za generiranje personaliziranih komentara, i to ne samo na temelju sadržaja objava, već i na temelju osobnih atributa korisnika (poput spola, dobi, etničke pripadnosti, lokacije i političkih stavova) koji su zaključeni analizom njihove povijesti na Redditu. Tijekom eksperimenta, AI je preuzimao identitete poput preživjele žrtve seksualnog napada, savjetnika za traumu i Afroamerikanca koji se protivi pokretu Black Lives Matter. Iako su mnogi komentari kasnije izbrisani, neki su i dalje dostupni u arhivama.
Istraživači su prekršili više pravila subreddita, uključujući obvezu objavljivanja kada se koristi AI te zabranu korištenja botova. Moderatori su podnijeli službenu pritužbu Sveučilištu u Zürichu i zatražili da se rad ne objavi.
Glavni pravni savjetnik Reddita, Ben Lee, oštro je osudio eksperiment, nazvavši ga "duboko pogrešnim" na moralnoj i pravnoj razini. Reddit je blokirao sve račune povezane s ovim istraživanjem i pokrenuo formalne pravne postupke protiv Sveučilišta u Zürichu i uključenih istraživača. Platforma je također najavila dodatno jačanje svojih sustava za otkrivanje neautentičnog sadržaja.
U odgovoru na kritike, istraživači su tvrdili da su imali odobrenje sveučilišnog etičkog odbora te da njihov rad može pomoći online platformama da se obrane od ozbiljnijih zloupotreba umjetne inteligencije, poput manipulacija izborima.
Izjavili su:
"Razumijemo da se neki mogu osjećati neugodno, ali vjerujemo da potencijalne koristi nadmašuju rizike."
No, moderatori r/changemyview nisu se složili s tom ocjenom, naglasivši da korisnici dolaze na subreddit očekujući interakciju s ljudima, a ne sudjelovanje u AI eksperimentima. Također su istaknuli da je i OpenAI provodio istraživanja koristeći podatke s r/changemyview, ali bez eksperimentiranja na korisnicima bez njihovog pristanka.
"Ljudi koji posjećuju naš subreddit zaslužuju prostor bez ovakvih vrsta upada," zaključili su moderatori.
