Europeiska kommissionens förslag till Europaparlamentets och rådets direktiv om anpassningar av reglerna om utomobligatoriskt skadeståndsansvar vad gäller artificiell intelligens

Diskrimineringsombudsmannen (DO) har anmodats att yttra sig över ovanstående direktivförslag. DO lämnar utifrån sitt uppdrag följande synpunkter.

I direktivförslaget anges att AI kan ge upphov till risker samt skada intressen och rättigheter som skyddas av unionsrätten eller nationell rätt, där icke-diskriminering och likabehandling nämns särskilt (se skäl 2). Syftet med direktivet är att underlätta för enskilda som orsakats skada av AI-system att uppnå en motsvarande skyddsnivå som de som drabbats av skador vilka inte är orsakade av AI-system (se skäl 7).

Enligt artikel 1.2 ska direktivets tillämpningsområde emellertid begränsas till utomobligatoriska culpabaserade civilrättsliga skadeståndsanspråk.

Enligt DO:s uppfattning är det ansvar som kan utkrävas av verksamhetsutövare enligt den svenska diskrimineringslagen inte något sådant culpabaserat ansvar som kommer att omfattas av direktivförslaget. Direktivets förslag för att underlätta inhämtandet av bevis kommer alltså, enligt DO:s bedömning, inte vara tillämpligt i en tvist om diskrimineringsersättning där diskrimineringen påstås ha orsakats av ett AI-system.

DO har i yttrande över Europeiska kommissionens förslag till förordning om harmoniserade regler för artificiell intelligens (AI-förordningen) särskilt påtalat vikten av att DO får tillgång till den information om AI-system som krävs för bedömning av diskrimineringsfrågan i ett tillsynsärende hos DO.

I 4 kap 3 § diskrimineringslagen (DL) stadgas en uppgiftsskyldighet, det vill säga tillsynsobjektets skyldigheter att lämna upplysningar till DO, och uppgiftsskyldigheten kan förenas med vite enligt 4 kap 4 § DL. Därtill finns en begränsning i skyldigheten att tillhandahålla DO de uppgifter som krävs för tillsynen, om det i ett enskilt fall finns särskilda skäl som talar emot att uppgifter ska lämnas ut enligt 4 kap 3 § andra stycket DL. De fall som avses enligt propositionen är bland annat affärs- eller driftsförhållanden eller andra uppgifter där motstående intressen är så starka att uppgifterna inte bör lämnas ut.

I yttrandet över AI-förordningen påpekade DO att den nämnda begränsningen i diskrimineringslagen av DO:s möjligheter att begära in uppgifter riskerar att innebära ett praktiskt hinder för en effektiv tillsyn på AI-området.

DO:s tillsynsbefogenheter enligt diskrimineringslagen riskerar således att inte vara tillräckliga för att bedriva en effektiv tillsyn på AI-området. En effektiv tillsyn är en förutsättning för att individer som utsatts för diskriminering ska få upprättelse, vilket sker i ett senare skede genom att DO begär diskrimineringsersättning för enskildas räkning i domstol.

För att säkerställa rätten att inte bli diskriminerad och enskildas rätt till upprättelse ser DO ett behov av att det säkerställs att det finns regler på plats som ger DO förutsättningar att bedriva ett effektivt arbete mot diskriminering även när diskrimineringen orsakats av ett AI-system.

Beslut i detta ärende (DO 2022/4565) har fattats av Karin Ahlstrand Oxhamre efter föredragning av processföraren Emma Svedberg.

Karin Ahlstrand Oxhamre, chef för processenheten