Vad händer när AI lär sig imitera våra mest personliga drag? När tekniken inte längre bara analyserar oss, utan även förvandlas till oss?
Lurade banken med AI-klon – fick tillgång till konton
Edvard Lundkvist
Uppdaterad: 05 dec. 2024Publicerad: 05 dec. 2024
ANNONS
Mest läst i kategorin
Röstigenkänning – ofta marknadsförd som en nyckel till personlig säkerhet – har visat sig vara förvånansvärt sårbar. AI som kan lära sig att härma våra röster kan användas för att knäcka säkerhetssystem som tar stöd av våra unika röster.
Vilka andra lås, som tidigare upplevts som säkra, kommer AI att bryta upp?
Rösten: Nyckeln till bankvalvet?
En reporter på BBC bestämde sig för att testa om en bank kunde luras med hjälp av den senaste AI-tekniken för röstkloning. Resultatet blev en kalldusch av obehag för hela bankvärlden – med konsekvenser som ingen hade förutsått.
Är de system vi litar på så säkra som vi tror? AI klonade en kunds röst och lyckades lura storbanken Santander att släppa igenom transaktioner.
Läs mer: FBI: Därför ska du sluta skicka SMS. Dagens PS
BBC:s reporter använde en AI-modell för att efterlikna en kunds röst. Resultatet var så pass trovärdigt att det påverkade bankens röstigenkänningssystem – ett säkerhetssystem som annars anses vara extremt svårt att lura. Genom att bara använda rösten lyckades reportern återge autentiska röstsignaler som gav tillgång till kontot.
Demonstrationen avslöjade en kritisk sårbarhet inom banksektorn, där AI:s förmåga att klona röster visade hur lätt det är att kringgå teknologin som är till för att skydda oss.
ANNONS
Bankerna försvarar sin praxis med att metoden är säkrare än alternativen – men erkänner samtidigt att man hela tiden ser över systemen för att öka säkerheten.
ANNONS
Senaste nytt
Vad betyder AI för säkerheten?
Experter har länge varnat för de potentiella farorna med AI-teknik, men BBC:s test är en påminnelse om hur verkliga riskerna är redan nu.
BBC berättar om sin undersökning för Saj Huq, en cybersäkerhetsspecialist och som sitter med i den brittiska regeringens National Cyber Advisory Board.
“Wow,” sa han. “Jag säger wow, eftersom jag är bestört över att du kunde komma in på ditt konto med denna teknik – men samtidigt är jag inte förvånad, med tanke på den snabba utvecklingen av tekniken i detta område.”
Detta får storbanker att ifrågasätta deras nuvarande säkerhetsstrategier, och många har nu börjat se sig om efter alternativa metoder för autentisering. Kan säkerheten ligga i biometrisk kombination, eller är det dags att ompröva digitala röstläsningar helt?
Oavsett vad framtiden bringar, står det klart att den här episoden blottar en svag punkt i den finansiella sektorn – och får oss att fråga om vår egen röst fortfarande är vår egen, eller om den bara är ett ytterligare vapen i fel händer.
Missa inte: AI-chocken – därför uteblir den tekniska revolutionen. Realtid
Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Edvard Lundkvist
Nyfiken skribent som bevakar börs- och finansnyheter med ett särskilt intresse för det internationella perspektivet.
Edvard Lundkvist
Nyfiken skribent som bevakar börs- och finansnyheter med ett särskilt intresse för det internationella perspektivet.
ANNONS
Dagens PS - en del av newstechbolaget RLVNC
Dagens PS är en del av RLVNC (Relevance Communication Nordic AB) – Noterat på Nordic SME sedan 2017. RLVNC är ett svenskt newstech-bolag som, med hjälp av en datadriven teknikplattform, erbjuder kostnadsfria och kvalitativa nyheter, främst inom ekonomi, näringsliv och börs.
Läs mer här
ANNONS
ANNONS
Senaste nytt
ANNONS
