Där människor av kött och blod gått på bluffen har AI reagerat direkt. Nu jagar AI nätbedragare och gör det framgångsrikt.
Nu avslöjar AI bedragarna på nätet
Torbjörn Karlgren
Uppdaterad: 25 maj 2024Publicerad: 25 maj 2024
ANNONS
ANNONS
Mest läst i kategorin
Det hela började som innovationer ofta gör, med en händelse i den egna vardagen.
Clark Hoefnagels mormor blev lurad på motsvarande närmare 300 000 kronor förra året.
Hoefnagels kändes sig tvingad att göra något åt saken.
”Det kändes som om jag behövde göra något för att skydda min familj, en känsla av ansvar för att ta itu med frågan”, säger han till BBC.
Kanadensaren Hoefnagels körde de bedrägeri- och ”phishing”-mejl hans mormor fått genom AI-chatboten ChatGPT.
Den reagerade omedelbart och identifierade meddelandena som bedrägliga.
Upptäcker bedrägeriförsök
Ur det skapade Chatnagels företaget Catch, som baserar sig på ett AI-system tränat för att upptäcka bluffmejl.
Catch, kompatibelt med Googles Gmail, skannar inkommande e-post och markerar alla som anses potentiellt bedrägliga.
AI-verktyg som ChatGPT, Google Gemini, Claude och Microsoft Copilot är också kända som generativ AI. Detta beror på att de kan generera nytt innehåll.
ANNONS
De kan i allt större utsträckning skapa foton och målningar, rösta innehåll, komponera musik eller skapa dokument.
Människor ur alla kategorier, samhällsskikt och branscher använder allt oftare sådan AI för att skapa innehåll. Tyvärr gäller det även bedragare, konstaterar BBC.
ANNONS
Senaste nytt
Hjälper skurkar
På Darknet finns bland annat en produkt, FraudGPT, som hjälper brottslingar att skapa innehåll som underlättar bedrägerier.
Det gäller sådant som bankrelaterade e-postmeddelanden för nätfiske, skräddarsydda bluff-webbsidor för att stjäla personli information och annat.
Än mer oroande är användningen av röstkloning som används för sådant som att övertyga en släkting om att någon nära en är i behov av ekonomisk hjälp och annat.
Ökade 84 procent
Problemet ökar markant. Under 2022 ökade antalet rapporter om AI-verktyg som försökte lura banker med 84 procent, enligt organisationen Cifas som arbetar mot bedrägerier.
I USA sade en rapport nyligen att AI ”lett till en betydande ökning av sofistikerad cyberbrottslighet”.
ANNONS
Ändå inte oroliga
Märkligt nog – och för att återvända till Clark Hoefnagels produkt Catch – så har AI-verktyget mot nätfiske och bedrägerier inte blivit populärt bland allmänheten.
“Folk vill inte ha det”, säger han.
“Vi märker att människor inte är oroliga för bedrägerier, inte ens om de redan har blivit lurade”.
Vill öka pressen
Den grupp som oroar sig är, enligt Hoefnagels, äldre människor, men de väljer att agera genom att sluta svara i telefon eller respondera på mejl.
Hoefnagels säger sig ha förståelse för det. Även om han i början var frustrerad över att inte fler förstod den ökade risken för bedrägerier har han vänt ilskan i en annan riktning nu.
“Det har lett mig till att vara mer sympatisk mot individer och i stället försöka öka pressen på företag och regeringar”.
Ord och inga visor: “Bankerna måste ta mer ansvar”. Dagens PS
ANNONS
Kravet från FI: “Bankerna måste göra mer”. Dagens PS
Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Torbjörn Karlgren
Reporter på Dagens PS med gedigen bakgrund som bland annat bevakar privatekonomi.
Torbjörn Karlgren
Reporter på Dagens PS med gedigen bakgrund som bland annat bevakar privatekonomi.
ANNONS
ANNONS
Senaste nytt
ANNONS
