Polisens och Tullverkets användning av AI för biometrisk fjärridentifiering i efterhand

Diskrimineringsombudsmannens (DO:s) yttrande är avgränsat till de frågor som aktualiseras av DO:s uppdrag att verka för ett samhälle fritt från diskriminering och i övrigt verka för lika rättigheter och möjligheter oavsett diskrimineringsgrund.

I promemorian lämnas förslag som möjliggör för Polismyndigheten, Säkerhetspolisen och Tullverket att använda artificiell intelligens (AI) för biometrisk fjärridentifiering i efterhand i syfte att ge dessa myndigheter möjlighet att göra målinriktade sökningar av personer som misstänks ha begått brott eller som har dömts för att ha begått brott. Tillståndsprocessen avser sådan användning av AI-system som omfattas av kravet på tillstånd enligt artikel 26.10 i AI-förordningen.

DO tillstyrker förslagen men framför även synpunkter som DO anser bör beaktas i den fortsatta beredningen.

Förslagen syftar till att ge polisen och Tullverket effektiva verktyg idess brottsbekämpande verksamhet, samtidigt som enskildas fri- och rättigheter beaktas. Enligt promemorian är förslagen dels en förutsättning för att polisen ska kunna fortsätta att använda AI-system för sin brottsutredande verksamhet när tillstånd krävs för användningen enligt artikel 26.10 i AI-förordningen, dels ett möjliggörande för polisen att kunna använda ny sådan teknik för att hitta misstänkta personer och personer dömda för brott. DO instämmer i behovet av att sådana åtgärder vidtas.

DO välkomnar att det i promemorian framhålls att något undantag från sökförbudet i 2 kap. 14 § brottsdatalagen inte behövs. Sökförbudet innebär att det är förbjudet att utföra sökningar i syfte att få fram ett urval av personer grundat på känsliga personuppgifter.

När förslag som dessa läggs fram är det emellertid av yttersta vikt att analysera de risker som är inbyggda i AI-system i sig och vid användningen av sådana system. Det gäller särskilt i förhållande till skyddet för mänskliga rättigheter och förbudet mot diskriminering. En sådan analys är avgörande för att säkerställa att de verktyg som föreslås är proportionerliga i förhållande till det eftersträvade ändamålet.

I remissvaret till promemorian 2025:7, som avsåg användning av AI för biometisk fjärridentifiering i realtid, pekade DO även på de regler som införs genom AI-förordningen(1) och som syftar till att motverka riskerna för diskriminering vid användningen av AI. I skäl (54) framhålls till exempel riskerna för diskriminering vid insamling genom AI-system av biometrisk fjärridentifiering av fysiska personer och i skäl (59) pekas särskilt på de risker som kan finnas för diskriminering när brottsbekämpande myndigheter använder AI-system. Brottsbekämpande myndigheters användning av AI för biometrisk fjärridentifiering i efterhand är, till skillnad från användande i realtid, inte föremål för förbudet i AI-förordningen. Däremot klassas sådan användning som ett högrisksystem i förordningen. DO saknar en djupare analys av dessa regler i förhållande till de föreslagna verktygen och den avsedda tillämpningen.

DO har i olika sammanhang identifierat att användning av AI-system kan leda till systematisk diskriminering(2). Som framgår av remis­synpunkter på förslagen promemorian Ds 2024:11 medför användandet av AI-system för ansiktsigenkänning problem kopplat till bias och diskriminering(3). Forskning visar att teknik för ansiktsigenkänning kan ge upphov till problematiska diskriminerande biaser, och även när rapporter visar att AI- och ADM-system i sig inte är partiska kritiseras distribueringen av dem för att på ett oproportionerligt sätt rikta in sig på och övervaka minoriteter och för att utföra etnisk profilering(4). DO beklagar därmed avsaknaden av en djupare analys av riskerna av förslagen i förhållande till förbudet mot diskriminering, detta särskilt med hänsyn till att det föreslagna användandet klassificeras som ett högrisksystem enligt AI-förordningen.

I promemorian framhålls att ”Precis som när polisen använder tekniken i dag kommer Riksdagens ombudsmän (JO) och Justitiekanslern inom ramen för sin respektive tillsyn, kunna uttala sig i frågor om användningen av tekniken.” DO kommer dock inte att kunna uttala sig eftersom myndigheten saknar möjlighet att utöva tillsyn på området. Vidare noterar DO att Integritetsskydds­myndigheten föreslås bli marknads­kontrollmyndighet. I sammanhanget ska åter beaktas att det saknas ett skydd mot diskriminering i samband med myndighetsutövning från polis, rättsväsende och övrig brottsbekämpande verksamhet i svensk rätt, vilket DO även framhöll i remissvaret till promemorian 2025:7. Någon sådan utvidgning av diskrimineringslagen har ännu inte skett. Detta framstår som än mer angeläget med hänsyn till de utökade möjligheter som flera rättsvårdande myndigheter nu ges för användandet av AI; ett verktyg som kan leda till just systematisk diskriminering.

Beslut i detta ärende har fattats av sektionschef Kerstin Burman efter föredragning av utredaren Liselotte Haraldsson.