DO uppmanar alla som anser sig missgynnade av Försäkringskassans AI att göra en anmälan. Detta efter larm om utpekanden för vab-fusk.
Diskriminerad av AI? "Anmäl"
Torbjörn Karlgren
Uppdaterad: 05 dec. 2024Publicerad: 05 dec. 2024
ANNONS
ANNONS
Mest läst i kategorin
Försäkringskassans AI pekar ut kvinnor, utlandsfödda, fattiga och lågutbildade som de grupper som framför allt är potentiella vab-fuskare.
Trots att kvinnor och män står för unga samma andel fel när det gäller vab-ersättningar pekar Försäkringskassans AI-system ut kvinnor som sannolika fuskare mer än dubbelt så ofta som män, har SvD avslöjat.
”Algoritmer är inte neutrala. Ibland blir det fel och problemet med algoritmer är att felen kan vara osynliga”, säger Meredith Broussard, professor i datajournalistisk vid New York University där hon forskar på AI, till SvD.
Har haft ögonen på AI
Det här är och kan i än högre grad bli ett problem, påpekar Arbetsvärlden. Där uppmanar DO, Diskrimineringsombudsmannen, nu personer som missgynnats att anmäla diskriminering.
DO har en längre tid hållit koll på hur AI kan leda till ökad diskriminering.
”Det finns en ganska stor litteratur om hur AI-verktyg kan leda till diskriminering och det kan ju bli systematiskt när samma bias, snedvridning, får genomslag hela tiden”, säger Samuel Engblom, stabschef hos DO.
Anmälan skulle, exempelvis, kunna handla om man blivit missgynnad i kontroller från Försäkringskassan eller vid extra långa väntetider för besked.
ANNONS
Senaste nytt
Större befogenheter
ANNONS
DO har dessutom fått stärkta befogenheter att undersöka AI-diskriminering genom ett EU-direktiv.
”Enligt EU:s nya AI-förordning får vi särskilda befogenheter när det gäller högrisk-AI. Det handlar till exempel om att begära fram dokumentation och få AI-verktyg testade”, är Samuel Engbloms besked.
”Delvis enklare” med AI
Det finns både fördelar och nackdelar i att utreda diskriminering via AI, är DO:s bedömning.
Det är ibland oklart var underlag finns, vilket kan försvåra.
”Men samtidigt kan snedvridningen finnas dokumenterad och gå att testa på ett sätt som är svårare när det är en mänsklig handläggares fördomar som ligger bakom den påstådda diskrimineringen”, påpekar Engblom.
Det starkaste verktyget för DO är dock, nu som tidigare, att utreda anmälningar.
”Vi är ju beroende av anmälningar för att vi ska kunna agera. Vi vill ju få folk att anmäla. Det är vårt starkaste verktyg – att utreda en enskild anmälan”, avslutar DO:s stabschef.
Så ska Försäkringskassan stoppa fusket. Dagens PS
ANNONS
Fuskande föräldrar kostar en miljard: “Är ett brott”. Dagens PS
Fattig-Sverige: Halv miljon svenskar lever i social utsatthet. News55
Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Torbjörn Karlgren
Reporter på Dagens PS med gedigen bakgrund som bland annat bevakar privatekonomi.
Torbjörn Karlgren
Reporter på Dagens PS med gedigen bakgrund som bland annat bevakar privatekonomi.
ANNONS
ANNONS
Senaste nytt
ANNONS