OpenAI lukker konti, der er knyttet til et formodet kinesisk overvågningsværktøj

OpenAI har udelukket flere konti, som angiveligt brugte ChatGPT til at opbygge et overvågningsværktøj til sociale medier, der skulle rapportere om protester mod Kina i USA og andre vestlige lande. Virksomheden hævder, at netværket sandsynligvis var knyttet til Kina.

OpenAI strammer grebet om AI-misbrug og lukker flere konti, der angiveligt brugte ChatGPT til at drive et overvågningsværktøj til sociale medier. Kontiene var angiveligt knyttet til en kinesisk støttet operation, der havde til formål at indsamle realtidsdata om anti-kinesiske protester i USA, Storbritannien og andre vestlige lande, ifølge en OpenAI-rapport.

Den såkaldte "Qianyue Overseas Public Opinion AI Assistant" blev i markedsføringsmateriale beskrevet som software, der var designet til at spore og rapportere onlinediskussioner om menneskerettighedsprotester direkte til kinesiske myndigheder, efterretningstjenester og ambassader. OpenAI kunne ikke uafhængigt verificere værktøjets eksistens, men havde adgang til reklamemateriale, der beskrev dets funktioner - primært scanning af platforme som X, Facebook og Instagram for relevante samtaler.

Ben Nimmo, ledende efterforsker hos OpenAI, kaldte sagen et bekymrende eksempel på et "autoritært regime, der forsøger at udnytte USA-baseret AI til antidemokratiske formål". Resultaterne kommer, mens spændingerne vokser over Kinas brug af vestlig teknologi, og OpenAI advarer aktivt amerikanske beslutningstagere om de nationale sikkerhedsrisici ved kinesisk AI.

De forbudte konti henviste også til brug af andre AI-modeller, herunder Metas open source Llama. Meta anerkendte muligheden, men påpegede, at dårlige aktører har adgang til masser af AI-værktøjer, herunder dem, der er udviklet i Kina.

Det er ikke første gang, OpenAI griber ind over for tvivlsom aktivitet. Virksomheden har også forbudt konti, der er knyttet til iranske påvirkningsoperationer, nordkoreansk relateret beskæftigelsessvindel og et andet Kina-tilknyttet netværk, der genererer spansksproget indhold, der er kritisk over for den amerikanske regering.

Med fremkomsten af kinesiske AI-startups som DeepSeek overvejer OpenAI at åbne op for nogle af sine egne modeller for at konkurrere. I mellemtiden kæmper amerikanske politikere med, hvordan de skal afbalancere AI-innovation med nationale sikkerhedsproblemer.