Deepfakes sprider sig över internet och det blir allt lättare att manipulera bilder, men verktygen för att avslöja dem utvecklas inte lika snabbt och hinner inte med.
Tekniken för att upptäcka deepfakes släpar efter
Annika Hjerpe
Uppdaterad: 26 apr. 2023Publicerad: 21 apr. 2023
ANNONS
ANNONS
Mest läst i kategorin
Det finns få ekonomiska incitament för bolag att investera i verktyg för att upptäcka förfalskade bilder och filmer, det rapporterar Bloomberg.
AI-tekniken är kraftfull
Deepfake, eller deep machine learning and fake, som det egentligen heter, beskriver att en bild, en film eller ett ljudklipp har manipulerats med hjälp av avancerad AI-teknik på ett sätt så de verkar autentiska.
Atrificiell intelligens, AI, är nu så kraftfull att den kan lura folk att tro att en bild där påve Franciskus bär en pösig Balenciaga-kappa är äkta.
ANNONS
Senaste nytt
Identifiering hänger inte med
De digitala verktygen för att skapa falska bilder är kraftfulla, men verktygen för att på ett tillförlitligt sätt identifiera dessa falska bilder hänger inte med i utvecklingstakten.
Deepfakes har funnits i flera år, i en manipulerad video från 2019 verkade USA:s före detta talman, Nancy Pelosi, sluddra när hon talade. Videon cirkulerade i sociala medier.
När Facebook vägrade ta ned Pelosi-videon, kom en annan manipulerad video i vilken Metas vd Mark Zuckerberg verkade säga någonting som han inte sagt.
Kan göra stor skada
ANNONS
Den AI-manipilerade bilden av påven i en fluffig jacka är relativt ofarlig, men deepfakes har potential att orsaka stor skada med allt från valmanipulation till falska sexhandlingar.
I takt med att tekniken utvecklas ökar antalet deepfakes. Förra året kom en falsk video där Ukrainas president Volodymyr Zelenskyj uppmanade landets soldater att kapitulera och den hade kunnat få allvarliga konsekvenser.
Inte intresserade av teknik för upptäckt
Stora teknikbolag har investerat hundratals miljarder i generativ AI, för att kunna ta en ledande roll inom tekniken, men dem globala marknaden för att upptäcka manipulerat innehåll är relativt liten.
År 2020 värderade undersökningsföretaget HSRC den globala marknaden för upptäckt av deepfakes till 3,86 miljarder dollar, cirka 39,9 miljarder kronor. Fram till år 2026 väntas den marknaden öka med 42 procent per år.
Claire Leibowicz, chef vid den ideella organisationen The Partnership on AI säger att experter är överens om att uppmärksamheten kring AI-generering är onödigt stor, medan intresset för upptäckt inte är tillräckligt.
Vill du läsa de senaste nyheterna om ekonomi, samhällsbyggnad och teknik? Så här enkelt får du vår kostnadsfria nyhetstjänst.
Läs mer: AI bättre på att bedöma våld
Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Annika Hjerpe
Reporter på Dagens PS med fokus på bland annat Life Science, hälsa och hållbarhet.
Annika Hjerpe
Reporter på Dagens PS med fokus på bland annat Life Science, hälsa och hållbarhet.
ANNONS
ANNONS
Senaste nytt
ANNONS
