Ett datalyft mot fel, fusk och frånvaro

Diskrimineringsombudsmannens (DO) yttrande är avgränsat till de frågor som berör DO:s uppdrag.

Förändrade ändamål för behandling av personuppgifter (8.6)

DO avstyrker förslagen om förändrade ändamål för behandling av personuppgifter. Detta mot bakgrund av att det i utredningen lyfts fram flera risker för diskriminering i samband med den ökade användningen av artificiell intelligens (AI) och maskininlärning men utredningen föreslår inte några konkreta åtgärder för att motverka de identifierade riskerna för diskriminering. DO menar att de olika riskerna som identifierats behöver mötas med konkreta åtgärder. DO har sedan tidigare framhållit att AI och andra former av automatiserat beslutsfattande kan medföra risk för diskriminering samt utgöra hinder för tillgången till lika rättigheter och möjligheter(1).

Utredningen konstaterar bland annat att brist på insyn och transparens kan innebära en risk för diskriminering och samtidigt försvåra tillsynen av systemen. Utredningen menar därför att det är viktigt att Försäkringskassan och Pensionsmyndigheten i tillämpningen och användningen av AI säkerställer att urvalsanalyser inte utgör en risk för diskriminering.

Vidare lyfter utredningen att det kan föreligga risk för diskriminering när modeller tas fram genom maskininlärning som baseras på tidigare beslut och historiska data, då det kan leda till att fördomar oavsiktligt byggs in i systemen (så kallad data bias) och i förlängningen till diskriminering. Den data som AI-system tränas på riskerar att återspegla historiska och befintliga ojämlikheter och grupprelaterade skillnader. Det kan vid användning av exempelvis maskininlärda algoritmer finnas en risk för diskriminerande resultat om data inte används på ett väl genomtänkt sätt. Av den anledningen anser utredningen att det är av stor vikt att de framtagna urvalsmodellerna utvärderas och granskas kontinuerligt. Av utredningen framgår det att diskrimineringsgrunderna måste undvikas som grund för urval om det inte tydligt kan motiveras. Vidare konstateras att användning av urval och profilering inte uppges vara rättssäkert om det finns personer som gör samma fel som andra men som följs upp i högre grad för att de som tillhör en viss grupp.

Utredningen redovisar således flera risker för diskriminering vid användning av AI, bland annat i samband med behandling av personuppgifter hos Försäkringskassan. Trots detta föreslår utredningen ingen ny författning för att möta de identifierade riskerna utan utredningen bedömer att nuvarande regelverk är tillräckliga, under förutsättning att myndigheterna beaktar riskerna på ett noggrant och ansvarsfullt sätt. Det överlåts därmed åt Försäkringskassan och Pensionsmyndigheten att i varje enskilt fall göra dessa bedömningar.

Ett nationellt frånvaroregister på individnivå (9.4.1)

Det förslag om ett nationellt frånvaroregister över barns och elevers närvaro och frånvaro i utbildningsverksamhet som utredningen presenterar uppges bygga på det förslag som tidigare lämnades i utredningen Bättre förutsättningar för trygghet och studiero (SOU 2025:8). Av den tidigare utredningen framgår att syftet med ett nationellt frånvaroregister är att säkerställa elevernas rätt till utbildning och fullgörande av skolgången(2).

I den här utredningen, Ett datalyft mot fel, fusk och frånvaro (SOU 2025:108), anges att en genomförd kartläggning visar på en stor samhällsnytta och ett stort behov av ett nationellt frånvaroregister. Förutom att registret uppges främja närvaro bland barn och elever, anges det kunna bidra till att minska felaktiga utbetalningar från socialförsäkringen. Det framhålls även att ett frånvaroregister kan motverka att oseriösa aktörer inom skolväsendet fortsätter att erhålla ekonomisk ersättning för elever.

Vidare framkommer det av utredningen att registret kan bidra till att upptäcka och förhindra att barn far illa, bland annat eftersom skolfrånvaro kan vara en indikator på att barn lever under hedersrelaterat förtryck eller andra problematiska hemförhållanden. Frånvaroregistret uppges också kunna användas inom ramen för socialtjänstens samverkan med Polismyndigheten i syfte att tidigt identifiera barn och unga i riskzonen för kriminalitet. Registret beskrivs som ett möjligt underlag för samverkan mellan polis, socialtjänst, skola och andra samhällsaktörer, och som ett verktyg för att stärka den lokala samverkan samt motverka rekrytering av barn och unga till organiserad brottslighet.

Av utredningen framgår att frånvaroregistret kommer att innebära en omfattande insamling av barns och ungas personuppgifter. I vissa fall innefattar behandlingen känsliga personuppgifter såsom barns etniska tillhörighet eller funktionsnedsättning. Meningen är att Försäkringskassan ska kunna få hämta information från registret. DO kan därmed konstatera att den aktuella utredningen tillskriver ett nationellt frånvaroregister ett annat syfte och betydligt fler användningsområden än vad som angavs i Bättre förutsättningar för trygghet och studiero (SOU 2025:8).

DO kan se att det, som förslaget nu utformats, finns en risk för diskriminering. Användandet av registret i de syften utredningen föreslår kan leda till att vissa barn kontrolleras i större utsträckning än andra barn av skäl som har samband med någon av diskrimineringsgrunderna, exempelvis kan barn med vissa funktionsnedsättningar komma att förekomma i registret i högre utsträckning än andra barn. Det finns enligt DO därför en uppenbar risk att användandet av registret på det i utredningen föreslagna sätten kan leda till felaktiga slutsatser och diskriminerande bedömningar. DO ställer sig därför tveksam till det förslag som utredningen lämnar avseende upprättandet av ett nationellt frånvaroregister för barn och elever.

Bristen på sanktioner vid AI-användning som har diskriminerande effekter på gruppnivå

Den ökade användningen av AI i verksamheter såsom hos Försäkringskassan och Pensionsmyndigheten ökar behovet av sanktioner mot diskriminering som inte är beroende av att det finns en enskild skadelidande som är medveten om att AI-användning kan ligga bakom diskriminering och är villig att väcka talan om diskrimineringsersättning. DO vill därför i sammanhanget påminna om vad myndigheten framförde i remissyttrandet över AI-kommissionens Färdplan för Sverige (SOU 2025:12), (3), vad gäller problematiken kring bristen på sanktioner i diskrimineringslagen vid AI-relaterad diskriminering när det saknas en enskild skadelidande. Som framgår av det remissyttrandet anser DO att det måste finnas en möjlighet att genom sanktioner effektivt motverka AI-användning som har diskriminerande effekter på gruppnivå. Att utvidga DO:s rätt att agera i domstolsförfaranden till att även omfatta diskriminering på gruppnivå skulle även vara i linje med EU:s direktiv om standarder för likabehandlingsorgan som anger att rätten att inleda ett domstolsförfarande i eget namn för att försvara allmänintresset är en typ av processbehörighet som ett likabehandlingsorgan kan ha, för att uppfylla kravet att det ska finnas en rätt att agera i domstolsförfaranden(4).

Diskrimineringslagen måste utvidgas till samtliga offentliga verksamheter där AI-användning kan förekomma

Diskrimineringslagens förbud mot diskriminering har idag en begränsad tillämpning över vissa delar av den offentliga verksamheten. Det innebär bland annat att förekomst av diskriminering till följd av AI-användning inom vissa offentliga verksamheter som exempelvis Skatteverket och Pensionsmyndigheten inte täcks av lagens tillämpningsområde. En ökad användning av AI inom myndigheters verksamheter förstärker ytterligare skälen för att införa ett heltäckande skydd mot diskriminering i offentlig verksamhet. Mot bakgrund av de möjliga riskerna för diskriminering som AI-användning kan ge upphov till inom offentlig verksamhet vill DO därför återigen påminna om behovet av att diskrimineringslagen utvidgas så att all offentlig verksamhet fullt ut omfattas av lagens förbud mot diskriminering.

Beslut i detta ärende (DO 2025/8753) har fattats av enhetschefen Cecilia Narby efter föredragning av utredaren Ulrika Bertilsson.

Cecilia Narby, enhetschef utvecklings- och analysenheten