DO avstyrker förslag om att ge polisen rätt att använda ansiktsigenkänning i realtid

Att använda artificiell intelligens (AI) kan leda till systematisk diskriminering. Det har DO kunnat konstatera i flera olika sammanhang. DO avstyrker förslaget om att ge polisen rätt att använda ansiktsigenkänning i realtid med hjälp av AI.

DO har nyligen lämnat in ett remissyttrande över en promemoria med förslag som ger Polismyndigheten och Säkerhetspolisen möjlighet att använda AI för ansiktsigenkänning Länk till annan webbplats. och annan biometrisk fjärridentifiering i realtid på allmän plats för brottsbekämpande ändamål.

Artificiell intelligens kan leda till systematisk diskriminering. Det är därför nödvändigt att det görs en riskanalys av AI-system och användningen av sådana system i förhållande till förbudet mot diskriminering.

DO avstyrker förslagen i promemorian

Förslagen syftar till att ge polisen utökade verktyg för att bekämpa den grova organiserade brottsligheten. DO instämmer i att det kan finnas behov av sådana åtgärder.

Promemorian innehåller ändå inte någon analys av de risker för diskriminering som förslagen kan innebära. Det utgör en väsentlig brist i promemorian.

Eftersom sådana nödvändiga analyser och konsekvensbedömningar inte gjorts är det inte heller möjligt att på ett konkret sätt bedöma de risker för diskriminering som förslagen medför, eller hur förslagen i övrigt kan påverka allas lika rättigheter exempelvis till privatliv och personlig integritet i det offentliga rummet.

Det går inte att utesluta att förslagen leder till systematisk diskriminering kopplat till exempelvis personers etniska tillhörighet med allvarliga konsekvenser för dem som drabbas. Det är också oklart om de föreslagna verktygen är proportionerliga i förhållande till det legitima ändamålet att bekämpa allvarlig brottslighet.

Förslagen som presenteras i promemorian aktualiserar också betydelsen av att diskrimineringslagen utvidgas så att all offentlig verksamhet, inklusive Polismyndighetens verksamhet, fullt ut omfattas av lagens förbud mot diskriminering. Så är inte fallet i dag.

Läs hela remissyttrandet här på do.se.