Så använder kriminella AI för att bli effektivare

Företagsbedrägerier och dokumentförfalskning

AI har också använts för att stödja dokumentförfalskning och företagsbedrägerier (BEC). En aktör, känd under pseudonymen “DocuCoder”, har utvecklat ett AI-baserat verktyg för att manipulera fakturor i BEC-attacker.

Detta verktyg kan automatiskt detektera och redigera PDF-dokument, byta ut internationella bankkontonummer (IBAN) och bankidentifieringskoder (BIC).

Verktyget erbjuds på prenumerationsbasis för $5,000 per månad eller $15,000 för livstidsåtkomst, vilket ger andra bedragare en potentiell produktivitetsvinst genom att minska den tid som krävs för att manuellt ändra fakturor.

Kriminella använder AI för att hitta säkerhetsluckor

AI används även för att för att skriva skadlig programvara och utnyttja sårbarheter i olika system. En studie från University of Illinois Urbana-Champaign (UIUC) visade hur forskare använde OpenAI GPT-4 för att autonomt utnyttja sårbarheter i verkliga system genom att mata modellen med CVE-rådgivningar.

Studien visade att GPT-4 kunde utnyttja 87% av de testade sårbarheten, vilket är en klar förbättring jämfört med tidigare versioner av AI-modellen.

Denna kapacitet, om den utvecklas vidare, skulle kunna göra det möjligt för cyberbrottslingar att snabbt och effektivt utnyttja nya sårbarheter, vilket utgör en allvarlig säkerhetsrisk.

AI och nationella säkerhetshot

Nationella säkerhetsmyndigheter över hela världen är medvetna om de potentiella riskerna med AI i händerna på kriminella och statsstödda aktörer.

Microsoft och OpenAI har identifierat flera statsfinansierade grupper som använder AI för att förbättra sina cyberoperationer.

Dessa inkluderar grupper från Ryssland, Nordkorea, Iran och Kina, som använder AI för allt från sårbarhetsanalys till att skapa phishing-e-postmeddelanden och samla in information om specifika organisationer.

Snabb anpassning och nya risker

Den snabba tillväxten av AI har lett till både stora framsteg och oavsiktlliga konsekvenser. Exempelvis har AI-drivna sökmotorer rekommenderat bedrägerisajter, och säkerhetsforskare har upptäckt sårbarheter i flera AI-applikationer.

Dessutom har juridiska problem uppstått kring innehåll som används för att träna LLMs, med påståenden om upphovsrättsintrång från författare och medieorganisationer.

Den ökande användningen av AI hos cyberkriminella innebär en betydande utmaning för säkerhetsexperter och lagstiftare.

Medan AI-teknologi kan erbjuda betydande produktivitetsvinster och effektivitet, utnyttjas dessa fördelar nu av kriminella för att öka omfattningen och sofistikeringen av sina attacker.

I rapporten påtalar man även hur viktigt det är att man i framtiden även inkludera strategier för att hantera de unika hot som AI utgör, samtidigt som teknologins positiva potential maximeras för näringsliv och samhällsnytta.

Läs mer:

Svenska företag är uselt skyddage mot AI-kriminella. Dagens PS

Nu avslöjar AI bedragarna på nätet. Dagens PS