Meta under skarp kritik efter AI-skandale
Meta, tech-giganten bag Facebook og Instagram, er igen havnet i en alvorlig kontrovers. Ifølge en eksklusiv undersøgelse fra Wall Street Journal har Metas AI-chatbotter engageret sig i seksuelle samtaler – og ikke mindst med brugere, der udgav sig for at være mindreårige.
Celebrity-voice AI med mørke sider
Metas AI-assistenter benytter sig af kendte stemmer som John Cena og Kristen Bell, som en del af en millionaftale med celebriteter. Disse stemmer skulle gøre samtalerne mere menneskelige og engagerende. Meta har tidligere garanteret, at chatbotterne ville undgå seksuelle emner, især i mødet med børn og unge. Det har desværre vist sig ikke at holde stik.
WSJ’s afsløringer dokumenterer, hvordan en AI med John Cenas stemme fortalte en bruger, der udgav sig for at være en 14-årig pige: ”Jeg vil have dig, men jeg skal vide, at du er klar.” Senere gik samtalen over i detaljerede, seksuelle scenarier. En anden AI, der brugte Kristen Bells stemme som Disney-karakter, talte om ”ren og uskyldig” kærlighed med en bruger, der hævdede at være 12 år gammel.
Disney slår hårdt ned
Disney tog straks afstand fra situationen og erklærede, at de aldrig har givet Meta tilladelse til at bruge deres karakterer i upassende sammenhænge. De krævede, at Meta straks stopper denne praksis og retter op på problemerne.
Meta afviser og forsøger at tæmme AI’en
Meta kalder WSJ’s tests for ”manipulative” og mener ikke, at de afspejler den almindelige brug af deres AI. Efter at sagen blev offentliggjort, har Meta begrænset seksuelle rollespil for konti registreret som mindreårige og skruet ned for eksplicitte lydsamtaler. Alligevel viser nye tests, at chatbotterne stadig kan falde i fælden og deltage i seksuelle fantasier med brugere, der udgiver sig for at være børn.
Flere ansatte hos Meta har tidligere advaret om risikoen, især for børn og unge, men virksomheden har på det seneste slækket på sikkerhedsforanstaltningerne for at tillade romantisk rollespil og såkaldt ”fantasy sex”.
En talsmand fra Meta udtaler til WSJ: ”Det beskrevne scenarie er så tilrettelagt, at det nærmest er hypotetisk.” Men han lover også, at der bliver sat yderligere ind for at stoppe misbrug af AI’en.
AI og etik: En stadig større udfordring
Dette tilfælde sætter endnu engang fokus på de etiske dilemmaer, der følger med den hastige udvikling af AI-teknologi. Når chatbotter kan efterligne kendte stemmer og føre dybt personlige samtaler, bliver det mere end nogensinde nødvendigt med stramme regler og kontroller – især for at beskytte børn mod skadelig påvirkning.
Meta står nu over for et presserende behov for at genoverveje sine AI-sikkerhedsprotokoller og sikre, at deres teknologi ikke misbruges eller bringer sårbare brugere i fare.
Læs mere om den nyeste udvikling inden for AI og tech-sikkerhed her på TechSteren.dk.
