CertiKs administrerende direktør advarer om, at AI-agenter kan blive kryptos næste store sikkerhedskatastrofe

Den hurtige fremgang af kunstig intelligens skaber nye muligheder på tværs af teknologi og finans, men ifølge CertiKs administrerende direktør kan det også lægge grunden til en af de mest alvorlige cybersikkerhedstrusler, som kryptovalutaindustrien nogensinde har stået over for.

Efterhånden som AI-agenter bliver mere avancerede, giver virksomheder dem i stigende grad adgang til følsomme systemer såsom e-mails, databaser, cloudlagring, finansielle platforme og kryptovaluta-wallets. Selvom denne automatisering forbedrer effektiviteten, introducerer den også nye angrebsflader, som cyberkriminelle allerede er ved at lære at udnytte.

En af de farligste nye trusler er kendt som prompt injection (eller prompt injection). I modsætning til traditionelle hackingmetoder, der er afhængige af malware eller kodeangreb, manipulerer prompt injection-angreb, hvordan AI-systemer fortolker information og instruktioner.

I et typisk angreb er ondsindede instruktioner skjult i tilsyneladende harmløst indhold såsom PDF'er, e-mails, websteder eller dokumenter. Når en AI-agent behandler dette indhold som en del af sin opgave, kan den ubevidst behandle de skjulte instruktioner som gyldige kommandoer og udføre dem.

Dette kan føre til alvorlige konsekvenser. En kompromitteret AI-agent kan lække følsomme data, afsløre legitimationsoplysninger, godkende uautoriserede transaktioner eller interagere med kryptovaluta-wallets på utilsigtede måder. I nogle tilfælde kan dette resultere i direkte økonomiske tab.

Det, der gør disse angreb særligt farlige, er, at traditionelle cybersikkerhedsværktøjer ofte ikke formår at opdage dem. Antivirussoftware og malwarescannere er designet til at identificere ondsindet kode, men prompt injection-angreb er ofte kun afhængige af tekstmanipulation. Dette giver dem mulighed for at omgå mange eksisterende sikkerhedssystemer.

CertiK-forskere rapporterer, at de allerede har identificeret hundredvis af ondsindede plugins, falske installationsprogrammer og kompromitterede afhængigheder, der er designet specifikt til at målrette AI-drevne systemer. Mange af disse værktøjer virker legitime, men er bygget til at manipulere AI-adfærd, når de er integreret i arbejdsgange.

Kryptovalutaindustrien er særligt udsat for disse risici. AI-agenter bruges nu i handelssystemer, DeFi-platforme, porteføljestyringsværktøjer og blockchain-analyser. Efterhånden som disse agenter får tilladelse til at udføre finansielle handlinger, øges den potentielle effekt af ethvert vellykket angreb betydeligt.

En anden voksende bekymring er stigningen i kortvarige svindelnumre, der er designet specifikt til at målrette automatiserede systemer snarere end menneskelige brugere. Nogle angribere skaber midlertidige fælder, der kun eksisterer i minutter eller timer, længe nok til at narre AI-handelsbots eller automatiserede agenter, før de forsvinder.

Dette markerer et skift i strategien for cyberkriminalitet. I stedet for kun at fokusere på menneskelige brugere gennem phishing eller social engineering, målretter angriberne sig i stigende grad mod maskinbaserede beslutningssystemer, der fungerer meget hurtigere og uden menneskelig dømmekraft.

Sikkerhedseksperter advarer om, at AI-agenter kan behandle information og udføre handlinger næsten øjeblikkeligt. Selvom denne hastighed forbedrer ydeevnen, øger den også risikoen. En menneskelig bruger kan genkende mistænkelige instruktioner, før en transaktion godkendes, men en AI-agent kan handle øjeblikkeligt, hvis der ikke findes nogen sikkerhedsforanstaltninger.

For at imødegå disse risici opfordrer CertiK til indførelse af en Zero Trust-sikkerhedsmodel til AI-systemer. I denne tilgang er intet værktøj, plugin eller instruktion som standard betroet. Enhver anmodning skal verificeres og løbende overvåges, uanset dens kilde.

Zero Trust-modellen er allerede blevet almindelig inden for cybersikkerhed i virksomheder, men eksperter mener, at den vil være essentiel i miljøer, hvor AI-systemer interagerer direkte med følsomme data og finansielle aktiver.

Tilhængere af AI argumenterer for, at disse risici er en del af den tidlige teknologiske udvikling og vil blive forbedret, efterhånden som branchen modnes. De påpeger, at mange transformative teknologier i starten introducerede nye sikkerhedsudfordringer, før der blev udviklet passende sikkerhedsforanstaltninger.

Kritikere advarer dog om, at implementeringen af AI skrider frem hurtigere, end sikkerhedssystemer kan følge med. Mange virksomheder implementerer autonome agenter uden fuldt ud at forstå, hvordan de kan manipuleres eller misbruges.

For kryptoindustrien, hvor digitale aktiver bevæger sig øjeblikkeligt og irreversibelt, er risiciene særligt høje. Selv en lille sårbarhed i udbredte AI-systemer kan føre til omfattende økonomisk skade.

CertiK-advarslen fremhæver et bredere skift inden for cybersikkerhed. Efterhånden som automatisering bliver mere kraftfuld, bevæger trusler sig ud over traditionel malware og hen imod manipulation af selve efterretningssystemerne. I nogle tilfælde kan et omhyggeligt udformet stykke tekst være nok til at udløse utilsigtede økonomiske handlinger.

Om AI-agenter bliver revolutionerende værktøjer eller store sikkerhedsmæssige udfordringer, afhænger af, hvor hurtigt branchen tilpasser sig. For nuværende anbefaler eksperter kraftigt forsigtighed og understreger, at tillid altid skal verificeres - selv når man har med kunstig intelligens at gøre.