Microsoft udelukker hackere bag AI-udnyttelse

Microsoft Corp. sagde, at det har identificeret amerikanske og oversøiske kriminelle hackere, som omgik autoværn på generative kunstig intelligens-værktøjer – inklusive virksomhedens Azure OpenAI-tjenester – for at generere skadeligt indhold, herunder intime billeder uden samtykke af berømtheder og andet seksuelt eksplicit indhold.

Hackerne skrabede kundelogin fra offentlige kilder og brugte dem til at få adgang til generative AI-tjenester, herunder Azure OpenAI, Microsofts cloud-produkt, der lader kunder bruge OpenAIs modeller, ifølge virksomheden. Hackerne ændrede derefter AI-produkternes muligheder og solgte adgang til andre ondsindede grupper og gav dem instruktioner om, hvordan man opretter skadeligt indhold.

Hackerne identificeret af Microsoft er baseret i Iran, Storbritannien, Hong Kong og Vietnam. De er angiveligt en del af et globalt cyberkriminalitetsnetværk, som Microsoft kalder Storm-2139. To andre medlemmer er placeret i Florida og Illinois, men Microsoft sagde, at det ikke navngiver dem for at undgå at afspore kriminel efterforskning. Softwareproducenten sagde, at den forbereder kriminelle henvisninger til amerikansk og udenlandsk retshåndhævelse.

Handlingen kommer, efterhånden som den stigende popularitet af generative AI-værktøjer skaber bekymringer om deres misbrug til at generere falske, ulovlige billeder af offentlige personer og almindelige personer, samt til at skabe materiale om seksuelt misbrug af børn. Virksomheder som Microsoft og OpenAI forbyder sådan adfærd og tager teknologiske skridt for at blokere den, men ondsindede grupper kan stadig forsøge at få uautoriseret adgang.

"Vi tager misbrug af kunstig intelligens meget alvorligt, idet vi anerkender de alvorlige og varige konsekvenser af misbrug af billeder for ofrene,"

Steven Masada, assisterende generaladvokat, Microsofts Digital Crimes Unit, sagde torsdag i et blogindlæg.

"Microsoft er fortsat forpligtet til at beskytte brugerne ved at integrere robuste AI-sikkerhedsforanstaltninger i vores platforme og beskytte vores tjenester mod ulovligt og skadeligt indhold."

Microsofts meddelelse følger en retssag i december, som virksomheden anlagde i det østlige distrikt i Virginia mod 10 "John Does" i et forsøg på at indsamle mere information om hackergruppen og forstyrre dens aktiviteter, sagde Masada i bloggen.

Retten har udstedt kendelser, der tillader Microsoft at beslaglægge en vigtig hjemmeside, som hackerne brugte. Det, og ophævelsen af lovlige ansøgninger i sidste måned, skabte panik blandt hackergruppen og fik nogle medlemmer til at pege fingre ad hinanden, hvilket Microsoft var i stand til at observere for at identificere nogle medlemmer, sagde virksomheden.

Microsoft afviste at nævne de berømtheder, der blev berørt.