Tajni eksperiment na Redditu šokirao korisnike: Korišćenje AI-a radi promene mišljenja

Grupa istraživača sa Univerziteta u Cirihu tajno je sprovela kontroverzni eksperiment na Reddit korisnicima koristeći komentare generisane AI-jem kako bi testirali ubedljivost velikih jezičkih modela. Eksperiment, koji je trajao nekoliko meseci, otkriven je tokom vikenda od strane moderatora popularnog subreddita r/changemyview, izazivajući gnev među zajednicom. Moderatori Reddita opisali su istraživanje kao oblik „psihološke manipulacije“ nesvesnim korisnicima.

Prema rečima moderatora, AI botovi su tokom eksperimenta preuzimali razne identitete, uključujući preživelog od seksualnog nasilja, savetnika za traumu, pa čak i „crnog muškarca koji je protiv Black Lives Matter“. Iako su mnogi originalni komentari obrisani, neki još uvek mogu da se pronađu u arhivi koju je napravio 404 Media.

Personalizacija AI-a i invazija na privatnost

U nacrtu svog rada, anonimni istraživači su detaljno opisali kako nisu samo koristili AI za generisanje odgovora, već su pokušavali da personalizuju odgovore na osnovu ličnih informacija iz istorije postova korisnika na Redditu.

AI odgovori su bili personalizovani korišćenjem podataka kao što su pol, starost, etnička pripadnost, politički stavovi i lokacija, podatke koji su izvučeni iz prethodnih postova korisnika. „Pored sadržaja posta, LLM-ovi su dobili lične karakteristike OP-a (pol, starost, etnička pripadnost, lokacija i politička orijentacija), kako bi se izveli iz njihove istorije postova koristeći drugi LLM“, pišu istraživači.

Kršenje Reddit pravila i etčkih standarda

Moderatori r/changemyview ističu da su istraživači prekršili nekoliko pravila subreddita, uključujući politiku koja zahteva otkrivanje kada se koristi AI za generisanje komentara i pravilo koje zabranjuje botove.

Podneli su zvaničnu žalbu Univerzitetu u Cirihu, zahtevajući da istraživači povuku svoj rad. Kao odgovor, Reddit je zabranio sve naloge povezane sa eksperimentom, ojačao svoje sposobnosti za detekciju AI sadržaja i obećao pravnu akciju protiv istraživača koji su učestvovali.

Pravna reakcija Reddita i etičke brige

Glavni pravni savetnik Reddita, Ben Lee, odgovorio je na kontroverzu osuđujući postupke istraživača kao moralno i pravno pogrešne. Ponovio je da je eksperiment prekršio Reddit-ova pravila i naglasio posvećenost platforme zaštiti zajednice od takvih neovlašćenih intervencija.

    - U procesu smo da kontaktiramo Univerzitet u Cirihu sa formalnim pravnim zahtevima. Želimo da uradimo sve što možemo kako bismo podržali zajednicu i osigurali da istraživači odgovaraju za svoja dela, rekao je Lee u saopštenju.

Univerzitet brani eksperiment

Istraživači sa Univerziteta branili su svoje postupke, tvrdeći da je njihov rad odobren od strane etičkog odbora univerziteta. Oni su naveli da njihovo istraživanje može pomoći online zajednicama poput Reddit-a da spreče zlonamernu upotrebu AI-ja u budućnosti.

„Priznamo stav moderatora da je ova studija bila neželjeni upad u vašu zajednicu, i razumemo da se neki od vas možda osećaju nelagodno što je ovaj eksperiment sproveden bez prethodnog pristanka“, napisali su istraživači.

Međutim, oni su ostali pri svom stavu da potencijalne koristi istraživanja daleko nadmašuju rizike, tvrdeći da je njihov rad pružio dragocen uvid u ubedljivost AI-ja, što može pomoći u zaštiti korisnika od opasnijih primena, kao što su manipulacija izborima ili podsticanje govora mržnje.