Går det att avslöja deepfakes?

Fejkade Bidens röst

I New Hampshire fick invånarna ett robotsamtal innan delstatens primärval, men den inspelad röst som förfalskats för att låta som USA:s president Joe Bidens.

I robotsamtalet uppmanade rösten invånarna att stanna hemma och spara sin röst till valet i november.

För närvarande finns det ingen amerikansk lag som förbjuder deepfakes, men nu i februari blev det olagligt för bolag att använda AI-genererade röster i robotsamtal.

I EU föreslås en AI-lag som kräver att medie-plattformar märker deepfakes.

Alla kan utsättas

Sedan det blev möjligt att använda AI för att skapa deepfakes har förfalskningarna blivit svårare att upptäcka.

Deepfakes kan kanske så småningom bli så övertygande att det blir omöjligt att skilja mellan vad som är från verkligt och vad som är manipulerat.

Bedragare skulle kunna manipulera aktiekurser genom att skapa falska filmer av företagsledare som presenterar falska företagsuppdateringar.

Alla kan utsättas, politiker, företagsledare, kändisar och soldater. En video som blir viral på internet är nästan omöjlig att begränsa.

Den ökade medvetenheten om deepfakes gör dessutom att personer som filmas när de faktiskt gör någonting olagligt kan hävda att bevisen mot dem är falska.

Program för upptäckt

Den maskininlärning som kan producera deepfakes kan inte vändas för att avslöja dem, men det finns några startupbolag som utvecklar teknik för upptäckt.

Ett par sådana bolag är Nederländska Sensity AI och Estniska Sentinel. Även stora amerikanska teknikbolag, som Intel jobbar på sådan teknik.

I november lanserade Intel produkten Fake Catcher, som de hävdar kan upptäcka en falsk video med 96 procents säkerhet. Programvaran observerar subtila färgförändringar på motivets hud.

Microsoft har lovat att bädda in digitala vattenstämplar i bilder som skapas med deras AI-verktyg för att de ska kunna skiljas från äkta bilder, det skriver Bloomberg.

Läs mer: Tekniken för att upptäcka deepfakes släpar efter Dagens PS