I år är det val i EU och i över 70 länder, det är ungefär hälften jordens befolkning som ska rösta, 2024 är därmed ett avgörande år för demokratin, men den kan hotas av deepfakes.
Demokratin och deepfakes – lösningar krävs
Annika Hjerpe
Uppdaterad: 15 feb. 2024Publicerad: 15 feb. 2024
ANNONS
ANNONS
Mest läst i kategorin
Desinformation, som deepfakes, blir allt vanligare på internet och riskerna med deepfake-tekniken är enorma.
Ivana Bartoletti, AI-expert och Global Privacy Officer på Wiproanser, anser att näringsliv, beslutsfattare, myndigheter och akademi tillsammans måste kämpa för att ”fake news” inte ska få skadlig inverkan på kommande val runt om i världen.
Hon tycker att företag, framför allt ägare av sociala medieplattformar, är en del av lösningen, men att de behöver stöd av politiker och myndigheter.
”Deepfakes och liknande fenomen som attackerar integriteten i valprocessen är omöjligt att ta itu med utan att samarbeta”, säger hon i ett mejl till Dagens PS.
En uppförandekod
“Politiska partier bör komma överens om en uppförandekod för en ansvarsfull användning av AI under valtider”, säger Ivana Bartoletti.
De här uppförandekoderna bör exempelvis inkludera ett förbud mot vissa former av syntetiskt genererad media, eller AI-genererad media.
”Röstmeddelanden är till exempel mycket svårare att identifiera på grund av bristen på kontext. Dessutom kan förbud i vissa fall vara bättre än en ’varning/disclaimer’ som människor oftast inte ens läser, och som till och med kan tas bort från innehållet artificiellt”, säger hon.
Hon tillägger att politiker även måste reglera det området, och påtalar att det här inte är någon lätt uppgift.
ANNONS
”Och vi har ännu inte definierat exakt vem och vad som behöver regleras”, säger hon till Dagens PS.
ANNONS
Senaste nytt
Används inom politiken
I dag implementeras AI såväl inom sjukvården som i akademin och politiken.
Ivana Bartoletti nämner att hon sett att politiker redan i dag tar hjälp av AI, och nämner ett exempel där Sverige Demokraterna AI-genererat en video där Jimmie Åkesson talar arabiska.
Hon säger att sådant kan hjälpa till att nå ut till väljare, men understryker att det alltid måste framgå att en sådan video inte är verklig.
Träna studenter
Ivana Bartoletti är övertygad om att det finns en positiv användning av tekniken bakom deepfakes.
”Det finns många viktiga användningsområden för tekniken bakom deepfakes! Till exempel kan denna teknik ge ett enklare och billigare sätt att öva och visualisera”, säger Ivana Bartoletti och tar medicinska studier som exempel.
”Studenter tränar idag med animatroniska robotar. De är dyra och kräver speciella kontrollrum. Generativ AI och VR-headsets och, eller övningsrum kommer att vara billigare och möjliggör generalisering, om inte gamifiering, av simulering för lärande. På samma sätt har gamifierade miljöer som möjliggörs av AI och deepfakes också stor potential för företagsutbildningar”, förklarar hon.
ANNONS
Nyheter och filterbubblor
Vi måste dock inse omfattningen av utmaningarna. I relation till de kommande politiska valen är det två faktorer Ivana Bartoletti tycker att vi måste tänka på.
Det första är att forskning visar att starkt splittrande nyheter genererar mycket mer uppmärksamhet än mer nyanserade eller balanserade nyheter.
Det andra är att vi har algoritmer och filterbubblor som förstärker spridningen av den falska informationen. Filterbubblor gör att vi omges med information som bekräftar våra redan existerande åsikter.
”Termerna filterbubblor och ekokammare används ofta för att beskriva partiska nyhetsflöden. Det innebär att de kan förklaras genom personalisering, på individnivå, av annonser och information man får i sitt flöde”, säger hon.
Hon förklarar att det här beror på den egna partiskheten, men också på algoritmdriven annonsering som bygger på dataanalyser av våra beteenden online. Vi märker det genom de informations- och annonsflöden vi utsätts för.
Det är allvarligt och kräver att sociala medieföretag vidtar åtgärder så att deras användare får del av olika information eftersom en balanserad blandning av nyheter är väldigt viktig för demokratin.
Ivana Bartolettis plan för kommande val inkludera dessa fyra pelare:
- Att sociala medieplattformar avslöjar vilka åtgärder de vidtar för att skydda valprocesser och för att förhindra samordnade desinformationskampanjer.
- Utveckla och övervaka EU:s motståndskraft. Detta kräver finansiering för oberoende övervakning och faktakontroll av civilsamhället och forskare.
- Sociala medieföretag måste upprätta ett dedikerat team som snabbt kan identifiera, bedöma och motverka desinformationskampanjer samt rapportera regelbundna transparensrapporter om vidtagna åtgärder och vara öppna för extern granskning.
- Alla partier och kandidater bör skriva under en uppförandekod som inkluderar att de ska använda verktyg som digitala vattenstämplar på bilder eller ljud för att öka förtroendet för innehållet.
Läs mer: AI-experten: Så kan EU:s AI-lag räddas Dagens PS
ANNONS
Läs mer: Går det att avslöja deepfakes? Dagens PS
Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Annika Hjerpe
Reporter på Dagens PS med fokus på bland annat Life Science, hälsa och hållbarhet.
Annika Hjerpe
Reporter på Dagens PS med fokus på bland annat Life Science, hälsa och hållbarhet.
ANNONS
ANNONS
Senaste nytt
ANNONS
