AI i skjul på Reddit: Etisk gråzone eller decideret manipulation?
Forestil dig at deltage i en debat på Reddit – og pludselig opdage, at du ikke taler med rigtige mennesker, men med AI-genererede kommentarer, der prøver at ændre dine holdninger. Det var virkeligheden for medlemmer af det populære subreddit r/changemyview, hvor forskere fra University of Zurich i al hemmelighed har kørt et flere måneder langt eksperiment med kunstig intelligens, uden at brugerne vidste det.
En skjult invasion af AI-kommentarer
Reddit-moderatorerne på r/changemyview slog alarm i en lang, offentlig udmelding, hvor de kaldte forskernes eksperiment for ”psykologisk manipulation” af intetanende brugere. I denne subgruppe, der tæller hele 3,8 millioner medlemmer, deler folk ofte kontroversielle meninger og beder om debat – præcis det perfekte laboratorium for at teste store sprogmodeller (LLM’er).
Forskerne brugte AI til at generere svar, der ikke bare var tilfældige, men tilpasset brugernes personlige baggrund, som køn, alder, politiske holdninger og endda etnisk baggrund – alt sammen udledt fra deres tidligere Reddit-aktivitet. AI’en påtog sig forskellige identiteter, lige fra en overlever af seksuelle overgreb til en ”sort mand, der er imod Black Lives Matter”. Mange af de oprindelige kommentarer er nu slettet, men arkiver findes stadig.
Brud på regler og etiske standarder
Moderatorerne understreger, at forskerne brød flere af subreddittens klare regler, herunder krav om at afsløre brugen af AI og forbud mod bots. De har derfor indgivet en officiel klage til University of Zurich og kræver, at forskerne ikke offentliggør deres resultater. Samtidig overvejer Reddit selv juridiske skridt.
Reddit’s juridiske chef, Ben Lee, var ikke sen til at kalde handlingerne ”dybt forkerte på både moralsk og juridisk niveau” og understregede, at Reddit har lukket alle konti knyttet til eksperimentet. Platformen arbejder også på at styrke sine værktøjer til at opdage falsk og AI-genereret indhold.
Forskerne forsvarer deres studie – men modstanden er massiv
University of Zurich-forskerne hævder, at deres undersøgelse var godkendt af et etisk udvalg, og at deres mål var at forstå, hvordan AI kan påvirke onlinefællesskaber – for dermed at kunne beskytte brugere mod mere skadelige AI-angreb i fremtiden. De erkender, at brugerne kan føle sig krænket, men mener, at fordelene ved indsigt opvejer risikoen.
Moderatorerne fra r/changemyview er langt fra overbevist: De påpeger, at OpenAI tidligere har foretaget lignende undersøgelser uden at involvere ikke-samtykkende mennesker. De insisterer på, at deres fællesskab skal være et trygt rum uden skjult AI-manipulation.
Et wake-up call for AI-forskning og online etik
Dette kontroversielle eksperiment sætter fokus på det svære krydsfelt mellem forskning, etik og teknologi. Når kunstig intelligens i stigende grad kan efterligne menneskelig interaktion, rejser det spørgsmål om privatliv, samtykke og manipulation i digitale fællesskaber. Reddit-sagen er et klart eksempel på, at selv lovende teknologier kan skabe farlige skyggesider, hvis vi ikke passer på.
For brugere og tech-entusiaster er det en påmindelse om altid at være kritisk overfor, hvem – eller hvad – der gemmer sig bag skærmen.
