EU antar världens första AI-lagstiftning

Den nya lagstiftningen kallas AI Act, eller på svenska AI-förordningen.

AI-förordningen ska främja utvecklingen och användningen av säkra och pålitliga AI-system inom EU:s inre marknad, både av privata och offentliga aktörer. Samtidigt ska lagen skydda EU-medborgarnas grundläggande rättigheter, till exempel vad gäller integritet. AI-förordningen gäller endast inom områden som omfattas av EU:s lagstiftning och ger undantag för system som används uteslutande för militära och försvarsändamål samt för forskningsändamål.

En lag med riskbedömning

Ambitionen med AI-förordningens är att följa en riskbaserad ansats. Det innebär att ju högre risk det är att en AI kan skada samhället, desto striktare regler gäller.

Det finns fyra risknivåer: oacceptabel risk, hög risk, begränsad risk och minimal eller ingen risk.

AI-system med oacceptabel risk är system som anses var ett tydlig hot mot människors säkerhet, försörjningsmöjlighet och rättigheter. Dessa är förbjudna, enligt AI-förordningen.

AI-system med hög risk omfattar system som kan påverka människors liv och hälsa på kritiska områden. Detta gäller till exempel transport, utbildning, produktsäkerhet, anställning, offentliga och privata tjänster, brottsbekämpning, migration och rättskipning. Dessa system måste uppfylla strikta krav innan de får användas.

För AI-system med begränsad risk finns ett transparenskrav så att människor är medvetna om att de interagerar med AI. Dessutom måste AI-genererat innehåll vara tydligt märkt. Detta gäller speciellt för generativ AI som skapar text, ljud, bild och video.

AI-system som innebär minimal eller ingen risk får användas fritt. Exempel på sådana AI-system inkluderar applikationer som AI-aktiverade videospel och spamfilter. Majoriteten av AI-system som används i EU när AI-förordningen antogs tillhör denna kategori.