AI-kommissionens Färdplan för Sverige

Övergripande synpunkter

DO välkomnar allmänt färdplanen på grund av den potential och möjliga samhällsnytta som användning av artificiell intelligens (AI) har för Sverige och olika delar av samhället. AI har diskuterats i stor utsträckning i samhällsdebatten under senare år. I debatten finns både de som anser att AI kommer att lösa många stora samhällsutmaningar och de som ser stora risker med AI, bland annat när det kommer till diskriminering. DO delar AI-kommissionens vision att AI i det framtida samhället är ett verktyg i medborgarnas tjänst. DO är även positivt inställd till att regeringen antar en AI-strategi som baseras på färdplanen.

Samtidigt som samhället bör sträva efter att dra maximal nytta av de möjligheter användningen av AI erbjuder, finns dock skäl att utifrån DO:s perspektiv erinra om att användning av AI också kan medföra risker för diskriminering. DO har i rapporteringen av ett regeringsuppdrag om AI och risker för diskriminering i arbetslivet (A2022/00877) påtalat att risker för diskriminering kan uppkomma exempelvis genom att den data som AI-system tränas på återspeglar historiska och befintliga ojämlikheter och grupprelaterade skillnader i arbetslivet. Om ett begränsat antal AI-system, som reproducerar dessa skillnader, dominerar inom ett område kan det i sin tur leda till konsekvent och systematisk diskriminering av ett stort antal personer. Brist på insyn och transparens är en annan utmaning som kan öka risken för diskriminering och försvåra tillsynen av de tekniska systemen.

Diskrimineringsförbuden i diskrimineringslagen är teknikneutrala och gäller även AI-relaterad diskriminering på de samhällsområden som lagen omfattar. För att säkerställa att förbuden efterlevs och för att enskilda ska ha möjlighet till upprättelse när de diskrimineras krävs insyn i AI-systemens uppbyggnad och funktionssätt. Av det följer att processerna för att bedöma om ett AI-system uppfyller kravet på icke-diskriminering i största möjliga mån dokumenteras, registreras och offentliggörs. Det krävs även att enskilda informeras om när AI används vid beslutsfattande.

Det är även viktigt att betona vikten av EU:s nya AI-förordning som antogs i maj 2024 och som reglerar användningen av AI med en EU-gemensam lagstiftning. Ett av syftena med förordningen är att AI inom EU utvecklas på ett säkert sätt som säkerställer medborgarnas grundläggande rättigheter. Regleringen har bland annat setts som nödvändig för att förhindra att diskriminering förekommer i en rad samhällssektorer, inte minst inom arbetslivet. AI-förordningen, där vissa bestämmelser redan delvis trätt i kraft och som gäller fullt ut från den 2 augusti 2026, innehåller en reglering kring AI-användning som är beroende av den bedömda risknivån som sådan användning ger upphov till. Den pågående statliga utredningen om hur AI-förordningen ska genomföras i Sverige (Fi 2024:05), där DO medverkar i utredningens expert- och referensgrupp, kommer att redovisa sitt uppdrag i september detta år. Det framstår som lämpligt att den fortsatta beredningen av AI-kommissionens färdplan beaktar innehållet i AI-utredningens kommande betänkande.

DO lämnar nedan synpunkter på vissa bedömningar och förslag i färdplanen.

Ett kunskapslyft för alla

DO instämmer i AI-kommissionens slutsats att en nödvändig beståndsdel i ett fungerande AI-ekosystem är AI-kompetens för alla i samhället. För att AI ska få ett brett genomslag i samhället behövs kunskap om vad AI är och inte är samt vilka möjligheter och utmaningar som följer med tekniken. Sådan kunskap är även nödvändig för att alla ska ha lika möjligheter att använda sig av AI-verktyg i vardagen men också vara medvetna om risker kopplade till AI-användning, exempelvis risken för diskriminerande effekter.

DO stöder därför AI-kommissionens förslag om en omfattande satsning på utbildning om AI i hela samhället – ett kompetenslyft för alla som inkluderar satsningar på skol- och högskoleområdet och folkbildningsinsatser, inklusive på folkbiblioteken. En annan viktig del som AI-kommissionen pekar på är att det i arbetsgivares normala vidareutbildning av sin personal kommer att krävas en ökad kompetensutveckling inom AI för anställda. DO vill i sammanhanget understryka vikten av att tillgången till utbildning om AI tillhandahålls på lika villkor, oavsett diskrimineringsgrund.

Data som en förutsättning för AI-utvecklingen

Som belyses i färdplanen är tillgången till relevanta och högkvalitativa data en avgörande förutsättning för utvecklingen och tillämpningen av AI. Men samtidigt belyses också nödvändigheten i att beakta riskerna för att de data som används återspeglar historiska och befintliga ojämlikheter, så kallad bias, vilka i sin tur speglar mänskliga beslut. DO vill särskilt peka på riskerna för att användningen av sådana snedvridna data kan leda till diskriminering vid användning av AI. Som anförts ovan under de övergripande synpunkterna kan följden bli en konsekvent och systematisk diskriminering av ett stort antal personer. Det krävs därför en kritisk blick på de data som används för att uppmärksamma sådana risker.

Offentliga sektorns användning av AI

AI-kommissionen föreslår att regeringen ska uppmuntra myndigheterna att använda AI i sin verksamhet, till exempel genom att införa återrapporteringskrav på myndigheter om hur de arbetar för en ansvarsfull implementering av AI. DO vill påtala vikten av att sådan återrapportering specifikt bör innehålla en redogörelse för om myndigheten undersökt risker för diskriminering till följd av användning av AI och vilka åtgärder myndigheten vidtagit eller avser att vidta för att motverka sådana identifierade risker.

DO instämmer i AI-kommissionens bedömning att det är viktigt att offentliga aktörer i sin verksamhet använder AI på ett transparent sätt i syfte att bibehålla medborgarnas tillit. DO vill även understryka vikten av att tillsynsmyndigheter ges möjlighet att utföra tillsyn och få tillgång till information om metoder och modeller när det gäller AI-användning i myndigheternas verksamheter.

DO instämmer även i förslaget att regeringen bör överväga att ge myndigheter i uppdrag att ta fram etiska riktlinjer inom ansvarsområden om behov skulle uppstå. Sådana riktlinjer bör som AI-kommissionen anger bland annat beakta hur användningen av AI kan påverka barns rättigheter. Det bör dock erinras om att etiska riktlinjer måste utgå från de krav för AI-användning som följer direkt av lagstiftningen, bland annat diskrimineringslagen.

Diskrimineringsförbudet i lagen behöver utvidgas till
all offentlig verksamhet

Diskrimineringslagens förbud mot diskriminering har idag en begränsad tillämpning över vissa delar av den offentliga verksamheten, vilket innebär att förekomsten av diskriminering till följd av AI-användning inom vissa offentliga verksamheter inte täcks av lagens tillämpningsområde. DO har i ett flertal tidigare remissyttranden, bland annat över betänkandet SOU 2021:94 Ett utökat skydd mot diskriminering, påtalat nödvändigheten av att tillämpningsområdet för diskrimineringslagen utvidgas så att offentlig verksamhet fullt ut omfattas av förbudet mot diskriminering. Användningen av AI inom myndigheters verksamheter förstärker ytterligare skälen för en sådan utvidgning av diskrimineringslagen.

Bristen på sanktioner vid AI-relaterad diskriminering när det saknas en enskild skadelidande

DO har tidigare pekat på bristen att det inte finns några sanktioner för överträdelser av diskrimineringslagen som inte avser en viss person. Det gäller diskriminering som drabbar en hel grupp, och där det antingen inte finns någon identifierbar skadelidande eller i vart fall inte någon enskild som är villig att väcka talan om diskrimineringsersättning. DO anser att avsaknaden av sanktioner för sådana överträdelser riskerar att underminera respekten för lagens diskrimineringsförbud, och att Sverige inte lever upp till de krav på effektiva och avskräckande sanktioner som följer av EU-rättens så kallade likabehandlingsdirektiv som till stor del ligger till grund för diskrimineringslagen.

Att diskrimineringslagen kräver att det är fråga om ett diskrimineringsfall där en enskild skadelidande identifieras för att det ska bli aktuellt med en sanktion för en överträdelse, innebär ett särskilt problem vid diskriminering som uppkommer till följd av användning av AI i en verksamhet. I system med AI-användning kan, som en följd av exempelvis diskriminerande algoritmer eller snedvridna data, diskriminering ske av ett mycket stort antal enskilda utan att varken de som drabbas eller den som använder systemet i sin verksamhet känner till det.

Den ökade användningen av AI i verksamheter ökar därmed behovet av sanktioner mot diskriminering som inte är beroende av att det finns en enskild skadelidande som är medveten om att AI-användning kan ligga bakom diskriminering och är villig att väcka talan om diskrimineringsersättning. Enligt DO måste det finnas en möjlighet att genom sanktioner effektivt motverka AI-användning som riskerar att få diskriminerande effekter på gruppnivå. Det bör då påpekas att denna problematik inte skulle lösas genom ett genomförande av det förslag som finns i betänkandet SOU 2021:94 Ett utökat skydd mot diskriminering, eftersom utredningens förslag till ny sanktionsbestämmelse när en identifierbar skadelidande saknas inte omfattar den form av diskriminering som AI-användning kan medföra.

Beslut i detta ärende har fattats av diskrimineringsombudsman Lars Arrhenius efter föredragning av experten Tarik Qureshi. I den slutliga handläggningen har också strategiska rådgivaren Anna Ericsson deltagit.

Lars Arrhenius