Transparens, träning och data
Myndigheters användning av AI och automatiserat beslutsfattande samt kunskap om risker för diskriminering.
En kartläggning över hur och i vilken omfattning statliga myndigheter använder AI och automatiserat beslutsfattande, och vilken kunskap myndigheter har om förhållanden som kan leda till diskriminering samt utgöra hinder för lika rättigheter och möjligheter när det gäller automatiserat beslutsfattande.
- Myndigheterna har sällan beaktat diskrimineringsgrunderna i styrdokument, riskanalyser och kvalitetsuppföljningar.
- Tio av fjorton myndigheter gör riskanalyser för att säkerställa att inte enskilda missgynnas. Endast fyra beaktar diskrimineringsgrunderna i detta arbete.
- Få myndigheter svarar att de behöver mer kunskap om och stöd i hur de kan minska risken för missgynnande. De sex intervjuade myndigheterna efterfrågar dock mer kunskap om risker för diskriminering och ökad kompetens i dataprogrammering.
Få ditt exemplar här
I denna rapport har DO undersökt hur statliga förvaltningsmyndigheter använder AI och automatiserat beslutsfattande gentemot enskilda, och i vilken utsträckning som de beaktar risker för diskriminering och hinder för lika rättigheter i tillämpning av AI och automatiserat beslutsfattande. Rapporten ska ses som ett led i att öka medvetenheten om diskrimineringslagen och på vilka sätt som automatiserade beslut kan leda till diskriminering och utgöra hinder för lika rättigheter och möjligheter.
Kartläggningen baserar sig på enkätsvar från 34 statliga förvaltningsmyndigheter. Sex av dessa myndigheter deltog även i fördjupande intervjuer.
Publikationsinformation
- Utgiven av:
- Diskrimineringsombudsmannen
- Senast reviderad:
- 11 mars 2022
- Antal sidor:
- 70