Genomförande av plattformsdirektivet

Diskrimineringsombudsmannen (DO) tillstyrker nedan nämnda förslag men framför även synpunkter som DO anser bör beaktas i den fortsatta beredningen.

Sammanfattning

DO har i stora delar inget att anmärka på utredningens förslag. DO menar dock att utredningen inte i tillräckligt hög utsträckning beaktat eller analyserat DO:s möjligheter att utifrån sitt uppdrag utöva tillsyn gentemot digitala arbetsplattformar, detta trots att det konstateras att det finns risker för diskriminering kopplat till delar av dessa verksamheter. För att DO på ett effektivt sätt ska kunna bedriva tillsyn krävs att även DO kan använda sig av en presumtion om att ett anställningsförhållande föreligger likt den som föreslås för Arbetsmiljöverket. DO beklagar också bristen på analys av den föreslagna implementeringen av direktivet i förhållande till AI-förordningens (1) bestämmelser. DO konstaterar att flera omständigheter kring den så kallade algoritmiska arbetsledningen också kommer falla in under AI-förordningens regelverk. Den föreslagna implementeringen gör därmed att det är oklart vilket mandat DO har som artikel 77-myndighet enligt AI-förordningen. Det gör det än mer angeläget att DO i sin tillsyn enligt diskrimineringslagen också kan tillämpa en presumtion kring sysselsättningsstatus likt den bestämmelse som omfattar Arbetsmiljöverkets tillsyn.

DO passar även på att framhålla överlappet mellan den föreslagna skyldigheten för digitala arbetsplattformar att granska sina automatiserade övervaknings- och beslutssystem och en arbetsgivares skyldighet att arbeta med aktiva åtgärder för att motverka diskriminering.

6 Sysselsättningsstatus

DO ser positivt på att den rättsliga presumtionen för att ett anställningsförhållande föreligger, som enligt direktivet ska införas i nationell rätt, utformas som en bevisregel. Konstruktionen som utredningen har valt, där bevisbördan går över till den digitala arbetsplattformen när det visas omständigheter som ”ger anledning att anta”, passar väl in i det rättsliga sammanhang som är aktuellt. Den rättsliga presumtionen är snarlik bevisbörderegeln i diskrimineringslagen. Det finns därför en förförståelse för hur den ska tillämpas. Eftersom presumtionen enligt artikel 5.2 i plattformsdirektivet ska gälla ”till förmån för” personer som utför plattformsarbete kan DO inte tolka den föreslagna regleringen på annat sätt än att det är tänkt att DO, i de sammanhang DO väcker talan för en enskilds räkning ska kunna argumentera utifrån presumtionen i domstol.

Förutom att DO kan gå in som part för enskilda som blivit utsatta för diskriminering eller vars rättigheter enligt föräldraledighetslagen har kränkts utövar DO också tillsyn över att diskrimineringslagen efterlevs. I fråga om digitala arbetsplattformar kan det röra sig om såväl tillsyn som rör en enskild händelse som arbetsgivares skyldighet att vidta aktiva åtgärder för att motverka diskriminering(2). DO konstaterar att utredningen inte föreslagit att någon presumtionsregel ska gälla för DO:s tillsyn över diskrimineringslagen, till skillnad från den bestämmelse som föreslås gälla i Arbetsmiljöverkets tillsyn. DO saknar en analys av om direktivets krav i artikel 5.3 på att presumtionsregeln ska gälla ”i alla relevanta administrativa förfaranden” verkligen uppfylls utan en sådan regel. DO bedömer att det finns risk att DO först behöver få fastställt vilken sysselsättningsstatus en anställd har hos ett plattformsföretag innan en tillsyn av aktiva åtgärder kan inledas, om en sådan presumtionsregel inte införs.

DO noterar vidare att utredningen, utifrån sina direktiv, har bedömt att det inte ligger inom ramen för deras uppdrag att närmare utreda hur digitala arbetsplattformars automatiserade system förhåller sig till regleringen i AI-förordningen. DO konstaterar att flera omständigheter kring den så kallade algoritmiska arbetsledningen kommer falla in under AI-förordningens regelverk. Avsaknaden av en analys av hur den föreslagna implementeringen av plattformsdirektivet förhåller sig till AI-förordningens bestämmelser gör det oklart vilket mandat DO har som artikel 77-myndighet enligt AI-förordningen. Det gör det än mer angeläget att DO i sin tillsyn enligt diskrimineringslagen också kan tillämpa en presumtion kring sysselsättningsstatus.

Utifrån detta föreslår DO att lagtexten kompletteras med en presumtionsbestämmelse likt den som föreslås gälla för Arbetsmiljöverkets tillsynsverksamhet.

7 Algoritmisk verksamhetsledning

DO har i olika sammanhang identifierat att användning av AI-system kan leda till systematisk diskriminering(3). Användandet av AI för arbetsledning klassas som ett högrisksystem enligt AI-förordningens bilaga III, vilket ställer stora krav på transparens och mänsklig övervakning. I skälen i AI-förordningen som rör området arbetsledning betonas att riskbegreppet inte är begränsat till tekniska egenskaper utan är nära knutet till det samhälleliga sammanhanget och det varnas för risken att man förstärker strukturella ojämlikheter. DO saknar en djupare analys av risken för diskriminering vid användandet av algoritmisk arbetsledning och hur implementeringen i svensk rätt på bästa sätt kan motverka en sådan risk.

7.5 Förbud mot behandling och insamling av vissa uppgifter

I 3 kap. 1 § andra stycket punkt 2 den föreslagna lagen införs ett förbud mot att genom automatiserade övervaknings- eller beslutssystem behandla personuppgifter för att härleda bland annat en persons ras eller etniska ursprung, funktionsnedsättning och sexuella läggning. Detta ser DO som positivt. DO har i olika sammanhang identifierat att användning av AI-system kan leda till systematisk diskriminering. I andra stycket punkt 1 införs ett förbud mot behandling av personuppgifter för att förutse utövandet av grundläggande rättigheter som fastställs i Europeiska unionens stadga om de grundläggande rättigheterna. Exempel på dessa rättigheter som nämnts i direktivet är förhandlingsrätt, rätt till kollektiva åtgärder eller rätt till information och samråd. Utredningen påtalar dock även att den gäller även andra delar av stadgan som exempelvis artikel 33.2 och skydd mot uppsägningar som har samband med graviditet och rätt till föräldraledighet, men har inte tagit med den exemplifiering som finns i direktivtexten. DO bedömer att det kan vara otydligt för en läsare som inte har större kunskaper om EU-rätt vad det innebär att förutse utövandet av grundläggande rättigheter som fastställs i stadgan. En exemplifiering i lagtexten skulle i detta avseende kunna göra det enklare för enskilda att förstå vad som menas. I ett sådant förtydligande bör redan i lagtexten, förutom fackliga rättigheter, även graviditet och föräldrarättigheter nämnas. Sådana omständigheter kan förutses på algoritmisk väg och ingår i skyddet mot diskriminering och skyddet av föräldrarättigheter.

7.8 Mänsklig kontroll

DO kan konstatera att de föreslagna skyldigheterna om digitala arbetsplattformars självgranskning och befintliga skyldigheter om aktiva åtgärder i diskrimineringslagen till viss del kommer överlappa varandra. DO ser positivt på att digitala arbetsplattformar kommer att åläggas att granska sina övervaknings- och beslutssystem. För den digitala arbetsplattform som är att se som arbetsgivare kan dessa skyldigheter dock delvis redan ingå i arbetsgivarens skyldighet att arbeta med aktiva åtgärder för att motverka diskriminering. Enligt 3 kap. diskrimineringslagen ska arbetsgivaren bland annat undersöka om det finns risker för diskriminering och vidta de förebyggande och främjande åtgärder som skäligen kan krävas. Detta kan jämföras med skyldigheterna i 4 kap. 6–8 §§ i den föreslagna lagen om att åtminstone vartannat år granska hur automatiserade övervaknings- och beslutssystem påverkar personer som utför plattformsarbete och vidta nödvändiga åtgärder eller upphöra med systemets användning om det framkommer till exempel en hög risk för diskriminering. En granskning enligt den föreslagna lagen om digitala arbetsplattformar ska utföras av alla digitala arbetsplattformar oavsett om de har anställda eller inte. Skyldigheter att vidta aktiva åtgärder enligt diskrimineringslagen gäller däremot arbetsgivare. Lagen om digitala arbetsplattformar träffar alltså en något annan grupp men ställer lägre krav på plattformsföretagen i fråga om vilka risker för just diskriminering som identifieras och åtgärdas. Detta trots att användandet av AI innebär en risk för systematisk diskriminering.

Såvitt rör DO:s tillsyn av företag som använder sig av automatiserade övervaknings- och beslutssystem är det positivt att det genom skyldigheten till granskning uppstår dokumentation som kan utgöra underlag för att bedöma till exempel om diskriminering förekommit. Inom ramen för DO:s tillsyn kan DO också komma att begära ut en granskning som gjorts enligt lagen om digitala arbetsplattformar. Detta ryms inom ramen för DO:s ordinarie befogenheter och någon lagändring krävs inte i denna del. DO:s tillsyn skulle dock underlättas av en presumtionsbestämmelse likt den som föreslås för Arbetsmiljöverket. En sådan bestämmelse framstår som angelägen, särskilt med hänsyn till att användandet av AI inom arbetsledning enligt AI-förordningen betraktas som ett högrisksystem och att bestämmelserna om plattformsföretagens självgranskning ställer lägre krav på plattformsföretagen att identifiera och åtgärda risker för diskriminering jämfört med diskrimineringslagens bestämmelser.

Beslut i detta ärende har fattats av diskrimineringsombudsman Lars Arrhenius efter föredragning av utredaren Disa Buskhe. I den slutliga handläggningen har också stabschefen Samuel Engblom, enhetschefen Karin Ahlstrand Oxhamre, sektionschefen Kerstin Burman samt experten Tarik Qureshi deltagit.

Lars Arrhenius