Framtidens dataskydd Vid Skatteverket, Tullverket och Kronofogden

Diskrimineringsombudsmannens (DO) yttrande är avgränsat till de frågor som berör DO:s uppdrag.

Risker för diskriminering vid användning av AI

Utredningen skriver att artificiell intelligens (AI), det vill säga maskininlärning och liknande tekniker, har stora möjligheter att bidra till en mer effektiv verksamhet för myndigheterna och bättre service till enskilda. Utredningen hänvisar också till att myndigheterna måste tillåtas förbereda sig på och kunna hantera kommande utveckling av AI.

DO vill i sammanhanget, liksom utredningen gör, lyfta att användandet av AI även kan innebära risker för diskriminering, både för enskilda och för olika samhällsinstitutioner. DO har i ett regeringsuppdrag (A2022/00877) påtalat att risker för diskriminering kan uppkomma exempelvis genom att den data som AI-system tränas på återspeglar historiska och befintliga ojämlikheter och grupprelaterade skillnader i arbetslivet. Om ett begränsat antal AI-system, som reproducerar dessa skillnader, dominerar inom ett område kan det i sin tur leda till konsekvent och systematisk diskriminering av ett stort antal personer. Brist på insyn och transparens är en annan utmaning som kan öka risken för diskriminering och försvåra tillsynen av de tekniska systemen.

Risker vid utökade möjligheter att göra dataanalyser och urval

Utredningen bedömer att Skatteverket, Tullverket och Kronofogdemyndigheten bör ges utökade möjligheter att använda dataanalyser och urval som verktyg för en effektivare kontrollverksamhet och föreslår att detta ska möjliggöras. Syftet är att förebygga, förhindra och upptäcka fel inom Skatteverkets beskattningsverksamhet och folkbokföringsverksamhet samt inom Tullverkets och Kronofogdemyndighetens respektive verksamheter. Genom detta ska det vara möjligt för myndigheterna att behandla personuppgifter för att använda sådana verktyg även när det saknas koppling till ett visst ärende.

DO ser risker med förslaget ur ett diskrimineringsperspektiv. Förslaget öppnar upp för möjligheten att genomföra analyser i syfte att identifiera grupper av individer som kan löpa högre risk för olika former av felaktigheter, överskuldsättning eller liknande. Sådana analyser kan, om de omsätts i förebyggande åtgärder, medföra risker för diskriminering. Det kan till exempel gälla om personer i en viss ålder eller med en viss etnisk tillhörighet behöver genomgå en mer detaljerad granskning än andra för att exempelvis få tillgång till olika tjänster.

Utredningen föreslår även att myndigheterna ska kunna sekretessbelägga uppgifter om metoder, modeller och riskfaktorer som hänför sig till dataanalyser och urval. Detta ska ske i syfte att förebygga, förhindra och upptäcka fel. Det gäller om det kan antas att det allmännas syfte med sådana analyser och urval motverkas om uppgiften röjs och analyserna och urvalen rör Skatteverkets beskattnings- eller folkbokföringsverksamheter, Tullverkets verksamhet eller Kronofogdemyndighetens verksamhet som omfattas av de nya lagarna.

Detta kan, enligt DO, försvåra arbetet för de myndigheter som utövar tillsyn över Skatteverkets, Tullverkets eller Kronofogdemyndighetens verksamhet. DO vill därför understryka vikten att tillsynsmyndigheter ges möjlighet att utföra tillsyn och få tillgång till information om metoder, modeller i verksamheterna.

DO vill i detta sammanhang även förtydliga att diskrimineringsförbudet inom Skatteverkets, Tullverkets eller Kronofogdemyndighetens verksamhet endast gäller när den som helt eller delvis omfattas av lagen om offentlig anställning bistår allmänheten med upplysningar, vägledning, råd eller annan sådan hjälp, eller på annat sätt i anställningen har kontakter med allmänheten (2 kap. 17 § diskrimineringslagen). Förbudet gäller alltså i princip hur anställda bemöter allmänheten. Utöver det är Skatteverket, Tullverket och Kronofogdemyndighetens enligt diskrimineringslagen som arbetsgivare skyldig att arbeta med aktiva åtgärder.

DO har i tidigare remissyttrande för utredningen SOU 2021:94, Ett utökat skydd mot diskriminering, påtalat nödvändigheten av att tillämpningsområdet för diskrimineringslagen utvidgas så att offentlig verksamhet fullt ut omfattas av förbudet mot diskriminering. DO välkomnar att regeringen nu avser att bereda ett lagförslag om utökat skydd mot diskriminering när det gäller offentliga verksamheter.

Beslut i detta ärende (DO 2024/343) har fattats av Cecilia Narby, efter föredragning av utredare Ann Frisell. I den slutliga handläggningen har också expert Janna Törneman deltagit.

Cecilia Narby, enhetschef vid Utvecklings och analysenheten