OpenAI afslører iransk påvirkningskampagne med AI-genereret indhold
OpenAI har identificeret og lukket ned for en række ChatGPT-konti, der blev brugt i en hemmelig iransk påvirkningsoperation rettet mod blandt andet det amerikanske præsidentvalg. Operationen nåede dog ikke ud til et større publikum.
Det amerikanske AI-selskab OpenAI offentliggjorde denne uge, at man har opdaget og stoppet en iransk påvirkningskampagne, der brugte kunstig intelligens til at generere politisk indhold. Operationen, som er identificeret som Storm-2035, anvendte ChatGPT til at producere både lange artikler og korte opslag på sociale medier.
Ifølge OpenAI fokuserede det AI-genererede indhold på en række emner, herunder kommentarer til kandidater fra begge sider i det amerikanske præsidentvalg. Materialet blev efterfølgende delt via sociale mediekonti og hjemmesider.
Begrænset gennemslagskraft
På trods af operationens omfang lykkedes det ikke at opnå nogen større opmærksomhed. Langt hovedparten af de sociale medieopslag, som OpenAI har identificeret, modtog få eller ingen likes, delinger eller kommentarer. Der blev heller ikke fundet tegn på, at artiklerne blev delt bredt på sociale medier.
OpenAI vurderer operationen til at være i den lave ende af kategori 2 på Brookings’ Breakout Scale, der måler effekten af påvirkningsoperationer på en skala fra 1 til 6. Dette betyder, at der var aktivitet på flere platforme, men ingen tegn på, at rigtige personer tog indholdet til sig eller delte det i større omfang.
To typer indhold
Undersøgelsen afslørede, at operationen brugte ChatGPT til to formål: at generere lange artikler og kortere kommentarer til sociale medier.
Artiklerne handlede om amerikansk politik og globale begivenheder og blev publiceret på fem hjemmesider, der udgav sig for at være både progressive og konservative nyhedsmedier. De korte kommentarer på engelsk og spansk blev postet på sociale medier, hvor OpenAI identificerede et dusin konti på X (tidligere Twitter) og én på Instagram.
Indholdet dækkede primært konflikten i Gaza, Israels deltagelse ved OL og det amerikanske præsidentvalg. I mindre grad berørte det også politik i Venezuela, rettigheder for latinamerikanske samfund i USA og skotsk uafhængighed. Det politiske indhold blev blandet med opslag om mode og skønhed, formentlig for at virke mere autentisk.
Fortsat overvågning
OpenAI har bandlyst de identificerede konti fra sine tjenester og fortsætter med at overvåge for yderligere forsøg på at overtræde selskabets politikker. Som en del af arbejdet med at forhindre denne type aktivitet har OpenAI delt trusselsinformation med myndigheder, valgkampagner og andre interessenter i branchen.
Selskabet understreger, at man tager alle forsøg på at bruge deres tjenester til udenlandske påvirkningsoperationer alvorligt, især i forbindelse med de mange valg, der afholdes i 2024.
