Modernt dataskydd vid CSN

Utbildningsdepartementets diarienummer U2025/00326.

Diskrimineringsombudsmannen (DO) har granskat betänkandet Modernt dataskydd vid CSN. DO lämnar, utifrån de utgångspunkter och intressen som DO främst har att bevaka, följande synpunkter.

Avsnitt 9.4.1 – En ändamålsbestämmelse som har sin grund i behoven i verksamheten

DO vill särskilt påtala risken för diskriminering vid användning av AI och anser att frågan behöver belysas mer i skälen för förslaget.

Användandet av AI medför risker ur ett diskrimineringsperspektiv. DO har i ett regeringsuppdrag (Regeringskansliets dnr A2022/00877) påtalat att risker för diskriminering kan uppkomma exempelvis genom att den data som AI-system tränas på återspeglar historiska och befintliga ojämlikheter och grupprelaterade skillnader. Om ett begränsat antal AI-system, som reproducerar dessa skillnader, dominerar inom ett område kan det i sin tur leda till konsekvent och systematisk diskriminering av ett stort antal personer. Brist på insyn och transparens är en annan utmaning som kan öka risken för diskriminering och försvåra tillsynen av de tekniska systemen.

Genom AI-förordningen införs en rad regler, till exempel krav på AI-system med hög risk. AI-system som är avsedda att användas av offentliga myndigheter eller för offentliga myndigheters räkning för att utvärdera, bevilja, minska, upphäva eller återkalla förmåner kommer i vissa fall att anses utgöra AI-system med hög risk enligt punkt 5 i bilaga 3 till AI-förordningen. Det pågår en utredning som bland annat innefattar att kartlägga behov av nationell anpassning till följd av AI-förordningen (Fi 2024:05). DO noterar att behovet av eventuella anpassningar i svensk rätt i förhållande till flera bestämmelser i AI-förordningen, inte har behandlats i det nu aktuella betänkandet och efterlyser en analys av hur AI-förordningens regelverk förhåller sig till förslaget.

Avsnitt 9.4.2 – En särskild primär ändamålsbestämmelse som ger CSN ett tydligt stöd för att göra dataanalyser och urval i syfte att förebygga, förhindra och upptäcka fel i stödverksamheten

DO vill lyfta att förslaget, att ge utökade möjligheter att använda dataanalyser och urval som verktyg för en effektivare kontrollverksamhet, medför risker ur ett diskrimineringsperspektiv.

Enligt förslaget får dataanalyser och urval göras för att förebygga, förhindra och upptäcka fel. Utredningen har uppmärksammat att risker för diskriminering kan uppstå vid utökad analys och urval och angett att diskrimineringsgrunderna bör undvikas som grund för urval om det inte tydligt motiveras (se avsnitt 4.2.7 i betänkandet, s. 111). Även andra faktorer än diskrimineringsgrunderna kan ge ett snedvridet och diskriminerande resultat om de används som grund för urval, exempelvis bostadsområde, låg inkomst eller låg utbildning. DO anser att diskrimineringsperspektivet bör komma till uttryck i CSN:s rutiner för hur urvalsmodeller ska utformas och hur sökbegrepp får användas. Enligt utredningens förslag till ny studiestödsdataförordning ska sådana rutiner finnas.

Förslaget öppnar upp för möjligheten att genomföra analyser i syfte att identifiera grupper av individer som kan löpa högre risk för olika former av felaktigheter. Sådana analyser kan, om de omsätts i förebyggande åtgärder, medföra risker för diskriminering. Det kan till exempel gälla om personer i en viss ålder eller med en viss etnisk tillhörighet behöver genomgå en mer detaljerad granskning än andra för att exempelvis få tillgång till olika lån eller i högre grad blir granskade i efterhandskontroller. DO anser att det bör ske regelbundna kontroller och analyser i syfte att upptäcka eventuella felaktigheter och omedvetna risker för diskriminering.

Avsnitt 13.3 – Sekretess till skydd för enskildas intressen vid dataanalyser och urval – och 13.4 – Sekretess till skydd för vissa allmänna intressen vid dataanalyser och urval

DO vill understryka vikten av att tillsynsmyndigheter, inklusive DO, får tillgång till information i sin tillsyn. Detta bör tydliggöras i det fortsatta lagstiftningsarbetet.

Utredningen föreslår att absolut sekretess ska gälla vid dataanalyser och urval hos CSN för uppgift om en enskilds personliga eller ekonomiska förhållanden samt att CSN ska kunna sekretessbelägga uppgifter om metoder, modeller och riskfaktorer som hänför sig till dataanalyser och urval. Brist på transparens innebär en risk för att diskriminering inte upptäcks och att människors möjligheter att hävda sina rättigheter minskar.

Diskriminering är förbjuden enligt 2 kap. 14 § diskrimineringslagen (2008:567) i fråga om statligt studiestöd. I och med att CSN omfattas av diskrimineringsförbudet i 2 kap. 14 § och det finns en uppgiftsskyldighet i 4 kap. 3 § för verksamheter som omfattas av diskrimineringslagen anser DO att CSN omfattas av aktuell uppgiftsskyldighet, oavsett utredningens förslag om sekretess. DO vill dock understryka vikten av att tillsynsmyndigheter ges möjlighet att utföra tillsyn och få tillgång till information. För att inte någon tveksamhet ska uppstå i fråga om utlämnande av uppgifter och information i samband med tillsyn anser DO att förhållandet mellan sekretess och uppgiftsskyldigheten bör tydliggöras i det fortsatta lagstiftningsarbetet.

Beslut i detta ärende har fattats av Sanna Ordenius efter föredragning av utredaren Ulrika Bergström.

Sanna Ordenius, sektionschef, rättsenheten