Grupa naučnika s Ciriškog univerziteta sprovela je tajni višemesečni eksperiment na popularnom Reddit forumu r/changemyview, koristeći veštačku inteligenciju (AI) za generisanje komentara kako bi testirali sposobnost ovih modela da menjaju stavove korisnika. Ovaj eksperiment, otkriven tokom vikenda od strane moderatora foruma, opisali su kao „psihološku manipulaciju“ korisnika koji nisu bili svesni s kim komuniciraju.
Moderatori su zatražili od zajednice da budu obavešteni o neovlašćenom eksperimentu. U objavi su naveli da je tim istraživača koristio AI za proučavanje mogućnosti koju ova tehnologija ima u menjanju mišljenja, što je izazvalo zabrinutost među članovima zajednice.
Istraživači su priznali da su sproveli eksperiment i sadržaj je dostupan u nacrtu izveštaja o radu. Prema njihovim rečima, r/changemyview je mesto gde korisnici dele svoja mišljenja o različitim temama, pokušavajući da promene perspektive drugih. U ovoj zajednici, koja broji 3,8 miliona članova, posetioci često raspravljaju o politički kontroverznim temama.
Tokom eksperimenta, korišćeni su veliki jezički modeli za generisanje oko 1.500 komentara destiniranih na izazivanje debate među korisnicima. Moderatori su otkrili da su AI nalozi igrali uloge kao što su žrtve silovanja, savetnici za trauma, i osobe koje su imale kritičke poglede na različite društvene grupe. Rezultati su pokazali da su ti modeli znatno uspešniji, čak šest puta u odnosu na normalne ljudske interakcije, u promeni stavova korisnika.
Mnogi originalni komentari su uklonjeni, ali deo njih se još uvek može pronaći u arhivama. U nacrtu izveštaja, istraživači su napomenuli da su koristili informacije iz istorije originalnih autora kako bi personalizovali odgovore, uzimajući u obzir njihove lične karakteristike.
Moderatori foruma su saznali o eksperimentu u martu kada je Univerzitet obelodanio postojanje studije. Naveli su da je korišćenje više naloza prekršilo pravila zajednice, koja zahtevaju otkrivanje upotrebe AI za generisanje komentara.
Reakcija Reddit-a je bila oštra, a šef pravne službe, Ben Li, osudio je postupke naučnika kao „duboko pogrešne“. Istakao je da nameravaju da preduzmu pravne korake protiv Univerziteta u Cirihu, kako bi obezbedili odgovornost istraživača za njihove postupke. Li je naglasio da su zabranili sve naloge u vezi sa istraživačkim radom i da će nastaviti da jačaju mogućnosti otkrivanja sadržaja generisanog AI-jem.
U svom izveštaju, istraživači su tvrdili da je etički savet univerziteta odobrio studiju, smatrajući da može da pomogne zajednicama da se zaštite od zloupotreba AI. Međutim, izneli su stav o velikim potencijalnim koristima ovog istraživanja, koje nadmašuju rizike, iako su priznali da se neki korisnici mogu osećati neprijatno zbog neovlašćenog eksperimentisanja.
Neki naučnici su kritikovali studiju, nazivajući je jednim od najgorih kršenja istraživačke etike. Profesorka informatike dr Kejsi Fisler ukazala je na to da je manipulacija ljudima u onlajn zajednicama bez pristanka visoko neetična i može izazvati stvarnu štetu.
Reakcije i dalje pristižu, a istraživači smatraju da su njihovi nalazi bitni za razumevanje mentaliteta i mogućnosti AI u društvenim interakcijama, ali su takođe svesni etičkih dilema koje ova tehnologija postavlja. Ova kontroverza će zasigurno pokrenuti širu diskusiju o etici istraživanja i upotrebi veštačke inteligencije u digitalnoj sferi.
