EU:s AI-lag: En guide till allt du behöver veta

Olika risknivåer inom AI

AI-lagen reglerar inte all användning av AI. Militära tillämpningar är helt undantagna, liksom användningsområden som bedöms ha minimal risk.

För användningsområden som omfattas av lagen finns en riskbaserad hierarki. Ett fåtal potentiella användningsområden, som “skadliga subliminala, manipulativa och bedrägliga tekniker” eller “oacceptabel social poängsättning”, klassas som “oacceptabel risk” och är därför förbjudna.

Hög risk

Nästa nivå är “hög risk”. AI-appar som används för kritisk infrastruktur, brottsbekämpning, utbildning, hälso- och sjukvård med mera, faller under denna kategori. Apptillverkare måste genomföra konsekvensbedömningar innan de släpps ut på marknaden, och även löpande, till exempel vid uppdateringar av modeller.

Utvecklaren måste kunna visa att de uppfyller lagens krav på områden som datakvalitet, dokumentation, spårbarhet, transparens, mänsklig tillsyn, noggrannhet, cybersäkerhet och robusthet. De måste också införa system för kvalitets- och riskhantering.

Högrisksystem som används av offentliga organ måste registreras i en offentlig EU-databas.

Medelhög risk

Det finns också en tredje kategori, “medelhög risk”, som ställer krav på transparens. Chatbots och andra verktyg som kan användas för att producera syntetiskt media omfattas av denna kategori.

Användare måste informeras om att de interagerar med eller tittar på innehåll som producerats av AI.

Generell AI (GPAI)

Utöver den riskbaserade hierarkin finns särskilda krav för de modeller som ligger till grund för generativ AI, så kallad “generell AI” (GPAI). Dessa modeller, som ibland kallas “grundläggande modeller”, används ofta av många appar som implementerar AI.

Utvecklare använder API:er från GPAI:er för att implementera modellernas funktioner i sin egen mjukvara. GPAI:er har därmed fått en stark position på marknaden, med potential att påverka AI-resultat i stor skala.

Framväxten av generativ AI ledde till förändringar i AI-lagen. EU-parlamentet lade till regler för GPAI:er, vilket ledde till intensiv lobbyverksamhet från teknikbranschen.

Slutresultatet blev en kompromiss med mildare krav för GPAI:er. De flesta modeller omfattas endast av transparensregler.

För de mest kraftfulla GPAI:erna, som kan utgöra risker för människors liv, kräver lagen proaktiv riskbedömning och riskreducering.

Ikraftträdande och tillsyn

AI-lagen trädde i kraft den 1 augusti 2024. Deadlines för att följa olika delar av lagen infaller vid olika tidpunkter, från början av 2025 till mitten av 2027.

EU arbetar för närvarande med att ta fram detaljerade riktlinjer för hur lagen ska tillämpas.

Tillsynen av GPAI:er är centraliserad på EU-nivå, med AI-kontoret i en nyckelroll. Kommissionen kan utdöma böter på upp till 3 procent av modelltillverkarnas globala omsättning.

Efterlevnaden av lagens regler för AI-system är decentraliserad. Det är medlemsländernas myndigheter som ska bedöma och utreda efterlevnaden av reglerna för de flesta AI-appar.

Böter för överträdelser kan uppgå till 7 procent av den globala omsättningen (eller 35 miljoner euro, beroende på vilket som är störst) för brott mot förbud. Överträdelser av andra AI-förpliktelser kan bestraffas med böter på upp till 3 procent av den globala omsättningen.

Läs också:

Brasiliens Kinasatsning – en nagel i ögat på USA. Realtid

Sanningen om romarriket – det här drack de egentligen. News 55

AI-mormor sätter stopp för telefonbedragare

Den brittiska mobiloperatören O2 lanserar ett nytt vapen i kampen mot telefonbedragare – en AI-driven chatbot vid namn “Daisy”. Daisy är utformad för att