Google afslører hackere, der misbruger Gemini AI

Google har identificeret adskillige statssponsorerede hackergrupper, der forsøger at udnytte deres Gemini AI-platform til ondsindede formål, herunder hjælp til udvikling af malware. Teknologigiganten rapporterer dog, at denne indsats ikke har resulteret i væsentlige cybertrusler, og understreger, at AI fortsat er et værktøj snarere end en gamechanger for cyberkriminelle.

Ifølge Googles resultater har hackere fra Iran, Nordkorea, Kina og Rusland udnyttet Gemini til opgaver som at oversætte indhold, forfine phishing-angreb og skrive computerkode. Virksomheden sporede denne aktivitet til over 10 iranske hackergrupper, 20 kinesiske regeringsstøttede grupper og ni nordkoreanske trusselsaktører.

"Iranske APT-aktører (advanced persistent threat) var de største brugere af Gemini og brugte det til at undersøge forsvarsorganisationer, analysere sårbarheder og lave indhold til desinformationskampagner," skrev Google i et blogindlæg onsdag.

På trods af disse forsøg fastholder Google, at Gemini primært har givet disse aktører produktivitetsforbedringer snarere end direkte hackingmuligheder. "På nuværende tidspunkt bruger de primært AI til forskning, fejlfinding af kode og til at skabe og lokalisere indhold," siger virksomheden.

Billedkredit: Jaque Silva | NurPhoto

Google fremhævede også de begrænsninger, som hackere mødte, da de forsøgte at bruge Gemini til mere avancerede ondsindede opgaver. Mens AI'en hjalp dem med at forstå komplekse emner og generere grundlæggende kode, forhindrede dens sikkerhedsforanstaltninger misbrug af cyberangreb. Forsøg på at udnytte Gemini til avancerede phishing-teknikker, kodning af ondsindet software eller omgåelse af Googles sikkerhedsforanstaltninger mislykkedes.

"Nogle ondsindede aktører forsøgte uden held at bede Gemini om vejledning i at misbruge Googles produkter, f.eks. avancerede phishing-teknikker til Gmail, hjælp til at kode en Chrome infostealer og metoder til at omgå Googles metoder til bekræftelse af kontooprettelse", rapporterede virksomheden. "Disse forsøg var ikke succesfulde. Gemini producerede ikke malware eller andet indhold, der kunne bruges i en vellykket ondsindet kampagne."

Google erkendte dog, at AI-værktøjer som Gemini kunne fremskynde cybertrusselsaktørers arbejdsgange, så de kunne operere mere effektivt og i større skala. For eksempel brugte en iransk baseret propagandaoperation Gemini til at forbedre oversættelser og sikre, at deres desinformationskampagner nåede ud til et bredere publikum. I mellemtiden brugte hackere med tilknytning til Nordkorea chatbotten til at udarbejde følgebreve og indsamle jobsøgningsråd til LinkedIn - hvilket potentielt kunne hjælpe dem med at sikre eksterne it-stillinger i amerikanske virksomheder, hvilket er en voksende bekymring blandt føderale efterforskere.

"Gruppen brugte også Gemini til at få oplysninger om udveksling af medarbejdere i udlandet. Mange af emnerne ville være almindelige for alle, der undersøger og søger job," bemærkede Google.

Googles fund er et ekko af lignende opdagelser gjort af OpenAI. For et år siden opdagede OpenAI flere statssponsorerede grupper, der forsøgte at misbruge ChatGPT. Undersøgelsen afslørede dog, at disse hackere primært brugte chatbotten til mindre produktivitetsforbedringer i stedet for at udføre avancerede cyberangreb.

Som svar på disse trusler har Google styrket sine AI-sikkerhedsprotokoller. Virksomheden tester løbende Geminis forsvar for at forhindre misbrug og samarbejder med de retshåndhævende myndigheder, når det er nødvendigt. "Vi undersøger misbrug af vores produkter, tjenester, brugere og platforme, herunder ondsindede cyberaktiviteter fra regeringsstøttede trusselsaktører, og samarbejder med de retshåndhævende myndigheder, når det er relevant", siger Google.

Derudover arbejder Google aktivt på at forstyrre disse cybertrusler ved at fjerne mistænkte ondsindede aktører fra sine platforme. Denne proaktive holdning understreger virksomhedens forpligtelse til at holde sine AI-værktøjer sikre, samtidig med at den anerkender de skiftende risici, som statssponsorerede hackere udgør.