Collectief procederen tegen algoritmische discriminatie

• 1 Inleiding

  In 2024 heeft de Europese wetgever zowel de AI-Verordening¹xVerordening (EU) 2024/1689. als de Richtlijn Platformwerk²xRichtlijn (EU) 2024/2831. aangenomen. De twee instrumenten zijn een mijlpaal voor de regulering van digitalisering van (onder andere) arbeidsrelaties in de EU. Interessant is dat zowel de AI-Verordening als de Richtlijn Platformwerk werknemersorganisaties een rol toekent bij het in goede banen leiden van de digitale transitie op het werk.³xZie o.a. artikel 26 lid 7 AI-Verordening en artikel 13 Richtlijn Platformwerk. Deze bepalingen komen aan bod in paragraaf 5. Een belangrijke vraag is wat de rol is van werknemersorganisaties voor het aanpakken van een van de kernissues van digitalisering: algoritmische discriminatie.⁴xZie over de kernissues o.a. OESO, Using AI in the workplace. Opportunities, risks and policy responses, OECD Artificial Intelligence Papers, maart 2024. Net als mensen kunnen algoritmen vooroordelen (bias) ontwikkelen tegen bepaalde groepen. Een bekend voorbeeld is het selectiealgoritme van Amazon, dat op basis van kenmerken van eerdere werknemers een voorkeur had voor mannen.⁵xCollege voor de Rechten van de Mens, Als computers je CV beoordelen, wie beoordeelt dan de computers? Algoritmes en discriminatie bij werving en selectie, Utrecht: College voor de Rechten van de Mens 2020, p. 4. Werkgevers die gebruikmaken van algoritmen kunnen dus in strijd handelen met het Europese en Nederlandse gelijkebehandelingsrecht. Het effectueren van het recht op gelijke behandeling ligt van oudsher echter bij de individuele werknemer, voor wie het lastig is om discriminatie aan te tonen. Dit geldt des te meer wanneer de discriminatie schuilgaat achter algoritmen waarop hij geen zicht heeft en waardoor hij minder snel door heeft dat hij wordt gediscrimineerd. Om deze reden is optreden door werknemersorganisaties mogelijk een veelbelovende route om algoritmische discriminatie tegen te gaan. Werknemersorganisaties vertegenwoordigen een grotere groep werknemers en beschikken in de regel over meer capaciteit en overzicht dan individuele werknemers. Hierdoor verkeren zij mogelijk in een betere positie om op de hoogte te raken en bewijs te verzamelen van, en te procederen tegen, discriminatie. Daarnaast kan het met name voor vakbonden interessant zijn om op te treden tegen algoritmische besluitvorming, aangezien zij hiermee de waarde van het lidmaatschap en de relevantie van de vakbond kunnen benadrukken en versterken.⁶xIn de internationale literatuur is dit al eerder opgemerkt. Zie o.a. J. Hakkarainen, Naming something collective does not make it so: algorithmic discrimination and access to justice, Internet Policy Review 2021/4, p. 1-24; G. Gaudio, Litigating the Algorithmic Boss in the EU: A (Legally) Feasible and (Strategically) Attractive Option for Trade Unions?, International Journal of Comparative Labour Law and Industrial Relations 2024, p. 91-130.

  Onduidelijk is echter welke juridische mogelijkheden werknemersorganisaties hebben om in rechte op te komen tegen algoritmische discriminatie. Hoe kunnen werknemersorganisaties algoritmische discriminatie aantonen, en hoe verhouden de procesbevoegdheid van werknemersorganisaties en het gelijkebehandelingsrecht zich tot elkaar? En wat voegen de AI-Verordening en de Richtlijn Platformwerk in dit verband toe? Deze vragen staan, toegespitst op het Europese en Nederlandse recht, in deze bijdrage centraal. Eerst bespreek ik kort wanneer sprake is van algoritmische discriminatie (paragraaf 2).⁷xHierover is al veel geschreven. Zie wat betreft Nederland o.a. M. Jovović, Ter Visie - Algoritmische discriminatie, Tijdschrift voor Arbeid & Onderneming 2018, p. 141-145; M. Kullmann, Platformwerk, besluitvorming door algoritmen en bewijs van algoritmische discriminatie, Ondernemingsrecht 2019/8; S. Burri & S. Heeger-Hertter, Discriminatie in de platformeconomie juridisch bestrijden: geen eenvoudige zaak, Ars Aequi 2018, p. 1000-1008; M. Vetzo & J. Gerards, Algoritme-gedreven technologieën en grondrechten, Computerrecht 2019/3; College voor de Rechten van de Mens 2020; W. Roozendaal & M. Jovović, Algoritmes en personeelsselectie, in: M. Houwerzijl, S. Montebovi & N. Zekić (red.), Platformisering, algoritmisering en sociale bescherming (MSR nr. 78), Deventer: Wolters Kluwer 2021, par. 8. Vervolgens analyseer ik hoe een collectieve aanpak kan bijdragen aan het bewijzen daarvan (paragraaf 3) en ga ik in op de bevoegdheid van werknemersorganisaties om te procederen tegen discriminatie (paragraaf 4). Tot slot analyseer ik wat de AI-Verordening en de Richtlijn Platformwerk toevoegen aan het juridisch kader (paragraaf 5). Ik sluit af met een conclusie (paragraaf 6).

• 2 Wanneer is sprake van algoritmische discriminatie?

  Algoritmische discriminatie valt binnen de werkingssfeer van het Europese en Nederlandse gelijkebehandelingsrecht, dat directe en indirecte discriminatie in arbeid en beroep op verschillende gronden verbiedt: geslacht (inclusief gender),⁸xRichtlijn 2006/54/EG inzake de toepassing van het beginsel van gelijke kansen en gelijke behandeling van mannen en vrouwen in arbeid en beroep, geïmplementeerd in de Wet gelijke behandeling van mannen en vrouwen (WGB) en artikel 7:646-649 BW. ras of etnische afstamming,⁹xRichtlijn 2000/43/EG inzake het beginsel van gelijke behandeling van personen ongeacht ras of etnische afstamming, geïmplementeerd in de Algemene wet gelijke behandeling (AWGB) en artikel 7:646-649 BW. godsdienst of overtuiging, handicap, leeftijd en seksuele geaardheid.¹⁰xRichtlijn 2000/78/EG inzake een algemeen kader voor gelijke behandeling in arbeid en beroep, geïmplementeerd in de AWGB, de Wet gelijke behandeling op grond van handicap of chronische ziekte, de Wet gelijke behandeling op grond van leeftijd bij de arbeid en artikel 7:646-649 BW. Zie over de vraag of de klassieke grondencatalogus uitbreiding behoeft o.a. S. Ganty & J.C. Benito Sanchez, Expanding the List of Protected Grounds within Anti-Discrimination Law in the EU, Brussel: Equinet 2021. Voor de toepasselijkheid van het gelijkebehandelingsrecht maakt het niet uit of het algoritme zelf het discriminerende besluit neemt, of dat de werkgever op basis van de discriminatoire output van het algoritme een discriminerende handeling verricht.¹¹xVergelijk HvJ EG 8 november 1990, C-177/88, ECLI:EU:C:1990:383 (Dekker) (werkgever die een zwangere werkneemster niet aanneemt omdat verzekeraar geen ziektegeld uitkeert overtreedt het discriminatieverbod); HvJ EU 25 april 2013, C-81/12, ECLI:EU:C:2013:275 (Accept) (homofobe uitspraken van een medewerker leiden tot het vermoeden dat de afwijzing door een werkgever van een homoseksuele sollicitant discriminatoir is). Zie ook mijn dissertatie Werkgeverschap in concernverband. Een onderzoek naar het concern in het arbeidsrecht en de verhouding tot de rechtseenheid (MSR nr. 82), Deventer: Wolters Kluwer 2023, par. 2.5.2 en 6.3.1.2. Tevens van belang is dat het gelijkebehandelingsrecht op het gebied van arbeid en beroep niet alleen van toepassing is op werknemers, maar zich eveneens uitstrekt tot arbeid als zelfstandige.¹²xWat betreft het Europese recht geldt dit in ieder geval voor de gronden ras of etnische afstamming en geslacht, aangezien Richtlijn 2000/43/EG een expliciete verwijzing naar het aanbieden van goederen en diensten bevat en een andere richtlijn, Richtlijn 2004/113/EG, het beginsel van gelijke behandeling m/v bij het aanbod van goederen en diensten regelt. Voor de overige gronden, die zich niet expliciet uitstrekken tot het aanbieden van goederen en diensten, vereist het Hof dat zelfstandigen een ‘reële activiteit’ verrichten in het kader van een rechtsbetrekking met ‘een zekere stabiliteit’ (HvJ EU 12 januari 2023, C-356/21, ECLI:EU:C:2023:9 (JK/TP), met (kritische) noot van mijn hand in TRA 2023/114). Het Nederlandse gelijkebehandelingsrecht hanteert een ruimere benadering en verbiedt, in het kader van arbeid, discriminatie van werknemers, zelfstandigen die onder enige vorm van gezag arbeid verrichten en ‘echte’ zelfstandigen (vrije beroepers). Wat betreft algoritmische discriminatie is deze constatering met name relevant voor werkenden die werk verrichten via digitale platforms, aangezien het – zoals bekend – niet altijd duidelijk is of dit type werkenden onder de noemer ‘werknemer’ valt en er in de platformeconomie veel werkgerelateerde beslissingen worden genomen door algoritmen (zoals: wie doet welke klus, op welke plek, op welk tijdstip en tegen welke beloning).¹³xJovović 2018, p. 141; J. Kloostra, De positie van de werker bij platformwerk (O&R nr. 151) (diss. Nijmegen), Deventer: Wolters Kluwer 2024, p. 34-40.

  In de context van algoritmen is indirecte discriminatie de meest relevante vorm van discriminatie. Directe discriminatie doet zich voor wanneer een persoon minder gunstig wordt behandeld dan een ander wegens een van de hiervoor benoemde beschermde gronden. Hiervan zou sprake zijn wanneer een algoritme werkenden benadeelt door rekening te houden met een variabele die samenvalt (of vrijwel geheel overlapt)¹⁴xZoals het zijn van allochtoon/immigrant, dat in de zaak Feryn (HvJ EG 10 juli 2008, C-54/07, ECLI:EU:C:2008:397) werd gelijkgesteld aan ras of etnische afstamming. Zie ook J. Gerards & R. Xenidis, Algorithmic Discrimination in Europe. Challenges and Opportunities for Gender Equality and Non-discrimination Law, Brussel: Europese Commissie 2020, p. 64; Gaudio 2024, p. 109. Dit betreft uitzonderingen: in principe lijkt het Hof voor directe discriminatie te eisen dat de variabele expliciet gelinkt is aan de beschermde grond. Een treffend voorbeeld is HvJ EG 7 december 2000, C-79/99, ECLI:EU:C:2000:676 (Schnorbus) (voorkeur voor kandidaten die een dienstplicht voor mannen hebben vervuld is geen directe discriminatie op grond van geslacht); C. Barnard, EU Employment Law, Oxford: OUP 2012, p. 354. met een beschermde grond. De meeste algoritmen zijn echter al zo ver dat zij geen variabelen gebruiken die rechtstreeks met een beschermde grond samenvallen.¹⁵xP. Hacker, Teaching Fairness to Artificial Intelligence: Existing and Novel Strategies Against Algorithmic Discrimination Under EU Law, Common Market Law Review 2018, p. 1153; Roozendaal & Jovović 2021, par. 8.3.4. Van indirecte discriminatie is sprake wanneer een ogenschijnlijk neutrale bepaling, maatstaf of handelwijze personen van een beschermde groep bijzonder benadeelt, tenzij het verschil objectief kan worden gerechtvaardigd. Dit kan aan de orde zijn wanneer het algoritme werkenden benadeelt door rekening te houden met een variabele die statistisch, maar niet uitsluitend correleert met een beschermde grond. Zo ontwikkelde het selectiealgoritme in het eerder aangehaalde voorbeeld van Amazon een voorkeur voor mannelijk taalgebruik als ‘executed’ en ‘captured’ om de ongelijke verhouding tussen mannen en vrouwen in de trainingsdata te kunnen verklaren (die was ontstaan doordat Amazon in het verleden minder vrouwen dan mannen had aangenomen), met als gevolg dat het algoritme later de sollicitaties van vrouwen weigerde op basis van deze voorkeuren.

  Het bestaan van indirecte discriminatie vereist niet dat de uitkomst van het algoritme als zodanig (dus alle variabelen tezamen) bijzonder nadelig uitpakt voor de beschermde groep.¹⁶xDit kan uiteraard wel, bijvoorbeeld indien een waarschijnlijkheidswaarde die voortvloeit uit een algoritme statistisch hoger is voor mannen dan voor vrouwen. Zie over dergelijke ‘bias in het algoritme’ (in tegenstelling tot ‘bias in de data’) bijvoorbeeld Hacker 2018, p. 1146-1150; M.J. Vetzo, J.H. Gerards & R. Nehmelman, Algoritmes en grondrechten, Den Haag: Boom juridisch 2018, p. 142-145. Ook in geval van bias in het algoritme dient men vervolgens – in het kader van de objectieve rechtvaardiging – te kijken naar de achterliggende variabelen om te achterhalen wat de werkelijke reden is voor het onderscheid. Ook het rekening houden met een enkele variabele, die statistisch correleert met een beschermde grond, is te beschouwen als een ‘bepaling, maatstaf of handelwijze’ die personen met de beschermde grond bijzonder benadeelt.¹⁷xZie ook Hacker 2018, p. 1153; Gaudio 2024, p. 109-110; CRM, Advies aan Dazure B.V. over premiedifferentiatie op basis van postcode bij de Finvita overlijdensrisicoverzekering, 28 januari 2014, https://publicaties.mensenrechten.nl/publicatie/29c613ac-efab-4d2a-a26c-fe1cb2556407 (berekenen van verzekeringspremie op basis van verschillende gegevens, waaronder postcode, wat statistisch correleert met etniciteit, vormt indirecte discriminatie op grond van etniciteit). Zie voor een betoog om van deze benadering af te stappen en alleen te kijken naar het algoritme als geheel Jovović 2018, p. 143. Wanneer een variabele een dusdanige statistische correlatie vertoont met personen van een beschermde groep – met als gevolg dat het meewegen van deze variabele deze personen ‘bijzonder’ benadeelt – is daarentegen onduidelijk. Het Hof van Justitie van de Europese Unie (HvJ EU, hierna ook: het Hof) is tot nu toe weinig concreet en spreekt over een ‘veel groter’ of ‘aanzienlijk’ verschil.¹⁸xBijvoorbeeld HvJ EU 18 oktober 2017, C-409/16, ECLI:EU:C:2017:767 (Kalliri). Zie nader P.C. Vas Nunes, Gelijke behandeling in arbeid, Den Haag: Boom juridisch 2018, p. 100-104. Ook de vraag welke groepen moeten worden vergeleken kent vaak geen duidelijk antwoord. Zie hierover o.a. Vas Nunes 2018, p. 227-252; G. Thüsing, par. 3 AGG, in: F.J. Säcker e.a. (red.), Münchener Kommentar zum Bürgerlichen Gesetzbuch, München: C.H. Beck 2021, randnummers 35-38; M. Bell & A. Numhauser-Henning, Equal Treatment, in: T. Jaspers, F. Pennings & S. Peters (red.), European Labour Law, Mortsel: Intersentia 2024, p. 279-284. In de literatuur wordt betoogd dat sprake is van een aanzienlijk verschil indien de kans dat personen van de beschermde groep positief worden beoordeeld maximaal 75% is van de kans dat personen buiten de groep positief worden beoordeeld. Het overleggen van statistieken is hiervoor van groot belang.¹⁹xBijvoorbeeld Hacker 2018, p. 1153; Thüsing 2021, randnummer 31. De Commissie Gelijke Behandeling (de voorganger van het College voor de Rechten van de Mens) ging uit van significante benadeling bij een factor van 1,5 en hoger. Onduidelijk is of het College dezelfde methode hanteert; Vas Nunes 2018, p. 103.

• 3 Het bewijzen van algoritmische discriminatie

  Het overleggen van statistieken die wijzen op indirecte discriminatie is vaak niet eenvoudig, zeker niet wanneer de gehanteerde variabelen divers zijn en schuilgaan achter een algoritme.²⁰xZie bijvoorbeeld ook Jovović 2018, p. 144; Roozendaal & Jovović 2021, par. 8.3.3. Om een doeltreffende werking van het gelijkebehandelingsrecht mogelijk te maken, wordt dan ook niet van rechtzoekenden verwacht dat zij deze statistieken aantonen. In plaats daarvan voorziet het gelijkebehandelingsrecht in een bewijslastverlichting. Deze houdt in dat, wanneer een persoon die meent te zijn gediscrimineerd in rechte feiten aanvoert (en zo nodig bewijst) die directe of indirecte discriminatie kunnen doen vermoeden, het aan de tegenpartij is om te bewijzen dat van discriminatie geen sprake is.²¹xArtikel 8 lid 1 Richtlijn 2000/43/EG; artikel 10 lid 1 Richtlijn 2000/78/EG; artikel 19 lid 1 Richtlijn 2006/54/EG. Ik identificeer twee routes die rechtzoekenden kunnen volgen om een vermoeden van algoritmische discriminatie aan te tonen. In beide routes speelt het collectieve aspect een rol.

  Route 1: inzicht in het algoritme

  De eerste route heeft betrekking op het achterhalen van de variabelen die worden gebruikt door het algoritme, waarna mogelijk een verband kan worden gelegd tussen het algoritme en een beschermde grond. Het gelijkebehandelingsrecht geeft rechtzoekenden geen recht op inzage in de door de werkgever gebruikte beslismodellen en data, zo overwoog het Hof in de arresten Kelly uit 2011 en Meister uit 2012.²²xHvJ EU 21 juli 2011, C-104/10, ECLI:EU:C:2011:506 (Kelly); HvJ EU 19 april 2012, C-415/10, ECLI:EU:C:2012:217 (Meister). Sinds 2018 staat rechtzoekenden wel de gereedschapskist van de Algemene verordening gegevensbescherming (AVG)²³xVerordening (EU) 2016/679. ter beschikking. De AVG stelt, in aanvulling op het gelijkebehandelingsrecht, beperkingen aan de discriminatoire verwerking van persoonsgegevens, waaronder die op het gebied van personeelsbeslissingen.²⁴xZie o.a. artikel 5 lid 1 onder a (verwerking van persoonsgegevens moet rechtmatig en behoorlijk zijn), artikel 9 (de verwerking van bijzondere persoonsgegevens, waaronder gegevens over etniciteit, religie en seksuele voorkeur, is in principe verboden) en artikel 22 (het gebruik van volledig geautomatiseerde besluitvorming is in principe verboden) AVG. Zie over deze bepalingen en hun betekenis voor algoritmische discriminatie o.a. Hacker 2018, p. 1170-1183; A. Aloisi, Regulating Algorithmic Management at Work in the European Union: Data Protection, Non-discrimination and Collective Rights, International Journal of Comparative Labour Law and Industrial Relations 2024, p. 48-55. Voor deze bijdrage is met name relevant dat individuen op grond van artikel 15 AVG recht hebben op inzage in de verwerking van hun persoonsgegevens, waaronder gegevens die betrekking hebben op beschermde kenmerken zoals godsdienst of geslacht.²⁵xArtikel 15 AVG. Op grond van artikel 13-14 AVG hebben zij ook vooraf recht op deze informatie. Voor gelijke beloning m/v vloeit een soortgelijke verplichting voort uit de Richtlijn Loontransparantie (Richtlijn (EU) 2023/970), die vereist dat werkgevers werknemers gemakkelijk toegang verschaffen tot de criteria (die objectief moeten zijn) die worden gebruikt om de beloning te bepalen (artikel 6) en werknemers(organisaties) een passief informatierecht toekent (artikel 7). Gezien de specificiteit van gelijke beloning m/v en de afwijkende bewijslast (het aanwijzen van een maatman die meer verdient volstaat om een vermoeden van discriminatie aan te tonen; zie artikelen 7 en 9 WGB en bijvoorbeeld Kullmann 2019), laat ik deze richtlijn verder buiten beschouwing. Het inzagerecht uit de AVG komt toe aan de individuele betrokkene (degene wiens gegevens worden verwerkt). In het verlengde hiervan is het inzagerecht in principe beperkt tot de (verwerking van) persoonsgegevens van het betreffende individu en strekt het zich niet uit tot de werking van het algoritme als zodanig. Onder omstandigheden kan een individu zijn of haar inzagerecht toch inroepen om inzicht te krijgen in de werking van algoritmen en na te gaan of variabelen die verband houden met een beschermde grond in het algoritme zijn verwerkt.²⁶xIdem Hacker 2018, p. 1173-1174; Aloisi 2024, p. 60. Meer specifiek staat deze route open indien sprake is van geautomatiseerde besluitvorming. Indien sprake is van geautomatiseerde besluitvorming, vereist de AVG dat de betrokkene wordt geïnformeerd over het bestaan van geautomatiseerde besluitvorming, alsook over de onderliggende logica en het belang en de verwachte gevolgen van de verwerking voor de betrokkene.²⁷xArtikel 15 lid 1 onder h AVG. Hieruit volgt dat de gebruiker van het algoritme inzicht moet bieden in de belangrijkste variabelen en hun gewicht in de besluitvorming, zodat betrokkenen de juistheid en rechtmatigheid van de verwerking kunnen controleren.²⁸xGroep Gegevensbescherming artikel 29 (WP29), Richtsnoeren inzake geautomatiseerde individuele besluitvorming en profilering voor de toepassing van Verordening (EU) 2016/679, vastgesteld op 3 oktober 2017, zoals laatstelijk herzien en vastgesteld op 6 februari 2018, te raadplegen via https://ec.europa.eu/newsroom/article29/items/612053, p. 30 en 32-33; Hof Amsterdam 4 april 2023, ECLI:NL:GHAMS:2023:793 en ECLI:NL:GHAMS:2023:796 (Uber); Hof Amsterdam 4 april 2023, ECLI:NL:GHAMS:2023:804 (Ola).

  Van geautomatiseerde besluitvorming in de zin van de AVG is sprake wanneer een besluit uitsluitend (dit wil zeggen: zonder betekenisvolle menselijke tussenkomst) is gebaseerd op een geautomatiseerde verwerking van persoonsgegevens en rechtsgevolgen heeft of de betrokkene anderszins in aanmerkelijke mate treft.²⁹xArtikel 22 lid 1 AVG. In het geval van (mogelijk) discriminerende algoritmen op de werkvloer is hiervan snel sprake. In het arrest SCHUFA uit 2023 legt het Hof het begrip ‘besluit’ ruim uit. Hieronder kunnen ook voorbereidende handelingen vallen.³⁰xHvJ EU 7 december 2023, C-634/21, ECLI:EU:C:2023:957 (SCHUFA), r.o. 44-46 en 60-62. Dat de vervolgactie door een mens wordt uitgevoerd, staat dus niet in de weg aan de tweede voorwaarde (uitsluitend op geautomatiseerde verwerking gebaseerd), aangezien de voorbereidende handeling het ‘besluit’ is. Zo oordeelde het hof Amsterdam dat het risicoprofiel (‘verdacht’ of ‘niet verdacht’) dat werd opgesteld door het algoritme van taxiplatform Ola – op basis waarvan Ola al dan niet overging tot maatregelen jegens de chauffeur – geautomatiseerde besluitvorming inhield. In lijn met het arrest SCHUFA ging het volgens het hof Amsterdam niet om de vraag of er op basis van de score (‘verdacht’ of ‘niet verdacht’) geautomatiseerde besluitvorming plaatsvond, maar of de score zelf tot stand kwam door uitsluitend geautomatiseerde verwerking (dat was het geval).³¹xHof Amsterdam 4 april 2023, ECLI:NL:GHAMS:2023:804 (Ola), r.o. 3.43. Hetzelfde gold voor het ‘earning profile’ en de toedeling van ritten door het algoritme van Ola, alsmede voor de deactiveringsbesluiten, het ‘batched matching systeem’, het ‘upfront pricing systeem’ en de vaststelling van de gemiddelde beoordelingen door het algoritme van Uber; Hof Amsterdam 4 april 2023, ECLI:NL:GHAMS:2023:793 en ECLI:NL:GHAMS:2023:796 (Uber). Zie ik het goed, dan volstaat dat het algoritme zelfstandig iets van een oordeel (zoals een score of een waarschijnlijkheidswaarde) verbindt aan de verzamelde gegevens.³²xMen spreekt ook wel van een ‘outcome’ of ‘doelvariabele’; bijvoorbeeld Vetzo, Gerards & Nehmelman 2018, p. 144. In een arbeidsrechtelijke context is daarnaast snel sprake van een besluit dat de betrokkene ‘in aanmerkelijke mate treft’. Dit is bijvoorbeeld het geval indien het gaat om een afwijzing van een sollicitatie of wanneer het besluit financiële consequenties heeft voor de betrokkene.³³xPreambule 71 AVG; WP29 2018, p. 26; Hof Amsterdam 4 april 2023, ECLI:NL:GHAMS:2023:793 (Uber I); Hof Amsterdam 4 april 2023, ECLI:NL:GHAMS:2023:796 (Uber II); N.W. Groenhart, annotatie bij Rechtbank Amsterdam 11 maart 2021, ECLI:NL:RBAMS:2021:1018, JBP 2021/71.

  Het inzagerecht bij geautomatiseerde besluitvorming maakt het in sommige gevallen (maar niet altijd: zie hierna) mogelijk om de variabelen die worden gebruikt door het algoritme te achterhalen. Dit opent de deur naar het leggen van een verband tussen het algoritme en een beschermde grond. Meer in het bijzonder faciliteert het inzagerecht uit de AVG het aantonen van een vermoeden van discriminatie zonder dat er een identificeerbaar of geïdentificeerd slachtoffer is. Deze mogelijkheid is van groot belang voor werknemersorganisaties die zelfstandig, bijvoorbeeld in het algemeen belang, discriminatie aan de kaak willen stellen. Om verschillende redenen, zoals meldingsbereidheid of een gebrek aan zicht op concrete beslissingen van de werkgever of het algoritme, is het immers niet altijd mogelijk om slachtoffers te identificeren.³⁴xZie ook o.a. S.B. Lahuerta, Enforcing EU equality law through collective redress: Lagging behind?, Common Market Law Review 2018, p. 783-818; Gaudio 2024. Uit de arresten Feryn uit 2008 en Associazone uit 2020 blijkt dat het Europese gelijkebehandelingsrecht discriminatie op het gebied van arbeid en beroep verbiedt, ook als er geen identificeerbaar slachtoffer is.³⁵xHvJ EG 10 juli 2008, C-54/07, ECLI:EU:C:2008:397 (Feryn); HvJ EU 23 april 2020, C-507/18, ECLI:EU:C:2020:289 (Associazone). Het Europese gelijkebehandelingsrecht beoogt de omstandigheden voor een maatschappelijk allesomvattende arbeidsmarkt te bevorderen. Volgens het Hof zou dit doel in gevaar komen indien het discriminatieverbod enkel zou gelden voor de gevallen waarin een vermeend slachtoffer van discriminatie een gerechtelijke procedure tegen de werkgever start. Als gevolg kwalificeerde het Hof in Feryn en Associazone publieke uitlatingen van (een medewerker van) een werkgever als een vorm van discriminatie, ondanks dat er geen identificeerbaar slachtoffer was. In gelijke zin kan worden aangenomen dat voor een vermoeden van discriminatie voldoende is dat een werknemersorganisatie kan wijzen op een variabele in het door de werkgever gebruikte algoritme die correleert met een beschermde grond, ook als een slachtoffer ontbreekt.

  De vervolgvraag is hoe sterk de correlatie tussen de variabele en de beschermde grond moet zijn. Aangezien het gaat om een vermoeden, is het niet noodzakelijk om het eerdergenoemde statistische percentage van bijvoorbeeld 75% aan te tonen.³⁶xIndien het statistische verschil vaststaat, kan de werkgever zich (enkel) nog redden door een objectieve rechtvaardiging aan te tonen; bijvoorbeeld HvJ EG 10 maart 2005, C-196/02, ECLI:EU:C:2005:141 (Nikoloudi). Een mogelijke correlatie (een mogelijk verband) tussen de variabele en de beschermde grond kan volstaan. Zo overwoog een Italiaanse rechter dat Deliveroo een algoritme hanteerde dat werkenden discrimineerde op grond van vakbondslidmaatschap,³⁷xNaar Italiaans recht omvat de beschermde grond ‘(godsdienst of) overtuiging’ ook vakbondslidmaatschap. omdat het werkenden bestrafte die na het accepteren van een opdracht besloten te gaan staken in plaats van werken.³⁸xTribunale di Bologna 31 december 2020, te raadplegen via www.bollettinoadapt.it/wp-content/uploads/2021/01/Ordinanza-Bologna.pdf. De rechter overwoog dat het algoritme, door geen onderscheid te maken tussen de redenen waarom een opdracht werd geannuleerd, in de praktijk nadelig werkte voor stakende werknemers. Met andere woorden: nadat de vakbond had aangetoond dat het algoritme gevolgen verbond aan het afzeggen van opdrachten (de variabele), leek het bestaan van een mogelijk verband tussen die variabele en vakbondslidmaatschap genoeg om een vermoeden van discriminatie aan te nemen.³⁹xZie ook I. Purificato, Behind the scenes of Deliveroo’s algorithm: the discriminatory effect of Frank’s blindness, Italian Labour Law e-Journal 2021/1, p. 184; V. Pietrogiovanni, Deliveroo and Riders’ Strikes: Discriminations in the Age of Algorithms, International Labor Rights Case Law 2021, p. 320; Gaudio 2024, p. 114.

  Indien een vermoeden van discriminatie wordt aangetoond, is het aan de werkgever om te bewijzen dat van discriminatie geen sprake is. Men is het er over het algemeen over eens dat het gaat om tegenbewijs, niet om tegendeelbewijs. Dat het gaat om tegenbewijs wil zeggen dat de werkgever weliswaar bewijs moet leveren, maar dat het bewijs beperkt mag blijven tot feiten die voldoende zijn om serieus te twijfelen aan de juistheid van het vermoeden.⁴⁰xH.J.W. Alt, Stelplicht en bewijslast in het nieuwe arbeidsrecht (MSR nr. 78), Deventer: Wolters Kluwer 2017, par. 7.6; Vas Nunes 2018, p. 146. Zie over het onderscheid tussen tegenbewijs en tegendeelbewijs voorts D.M.A. Bij de Vaate, De werking van het rechtsvermoeden van een arbeidsovereenkomst nader bezien, TRA 2023/29. De werkgever kan het vermoeden ontzenuwen door aan te tonen dat van daadwerkelijke correlatie geen sprake is of dat aan het gebruik van de variabele een andere, objectieve verklaring ten grondslag ligt. Het spreekt voor zich dat, indien de rechtzoekende erin is geslaagd een verband te leggen tussen een gehanteerde variabele en een beschermde grond, het aantonen hiervan een lastige opgave is voor de werkgever.⁴¹xZie ook en nader Jovović 2018, p. 144-145; Hacker 2018, p. 1160-1170; Roozendaal & Jovović 2021, par. 8.3.5. Ook Deliveroo slaagde er in voornoemde zaak niet in om het vermoeden van discriminatie te ontkrachten.

  Route 2: het identificeren van slachtoffers

  Vorenstaande route biedt niet in alle gevallen uitkomst. Sommige werkgevers gebruiken bijvoorbeeld ‘AI-based compensation support’, hetgeen inhoudt dat algoritmen de variabelen van het te bepalen loon of bonus aanbevelen.⁴²xR.J. de Jager, De Europese Artificiële Intelligentie-Verordening en algoritmen op het werk: voldoende future-proof?, TRA 2024/45, p. 5. Ik betwijfel of de aanbeveling van het algoritme in alle gevallen een besluit is dat de werkende ‘in aanmerkelijke mate’ treft, bijvoorbeeld indien de aanbeveling niet doorslaggevend is voor het oordeel van de werkgever of nog meer omstandigheden (variabelen) een rol spelen.⁴³xZo speelde in de zaak SCHUFA mee dat de handelwijze van de bank ‘hoofdzakelijk’ werd bepaald door de waarschijnlijkheidswaarde (r.o. 48). Zijn aan het algoritmische besluit geen aanmerkelijke gevolgen verbonden, dan hoeft de werkgever op grond van de AVG geen inzicht te bieden in de werking van het algoritme.⁴⁴xIn dat geval is echter verdedigbaar dat niet (de beslissing van) het algoritme, maar (alleen) de eventuele vervolgactie van de werkgever discriminatoir is, waardoor de bewijskwestie logischerwijs een andere is. In die zin bestaat er een zekere harmonie tussen de AVG en de gelijkebehandelingswetgeving. Vergelijk P. Hacker, A legal framework for AI training data - from first principles to the Artificial Intelligence Act, Law, Innovation and Technology 2021, p. 271-274. Daarnaast is het, zelfs voor experts, voor sommige typen algoritmen niet (goed) mogelijk om de gebruikte variabelen te achterhalen.⁴⁵xZie bijvoorbeeld Hacker 2018, p. 1153; Jovović 2018, p. 144; L. Grozdanovski, In search of effectiveness and fairness in proving algorithmic discrimination in EU law, Common Market Law Review 2021, p. 99-136. Dit geldt in het bijzonder voor zelflerende algoritmen die worden getraind aan de hand van eerdere menselijke beslissingen, waarbij eventuele menselijke vooroordelen zich kunnen vertalen in het systeem en moeilijk te identificeren en te corrigeren zijn (de bekende ‘black box’).⁴⁶xBijvoorbeeld Parlementaire onderzoekscommissie effectiviteit antidiscriminatiewetgeving, Gelijk recht doen, Een parlementair onderzoek naar de mogelijkheden van de wetgever om discriminatie tegen te gaan, juni 2022, te raadplegen via www.eerstekamer.nl/overig/20220614/hoofdrapport_gelijk_recht_doen_een/meta, p. 55. In dit soort gevallen rijst de vraag of, en zo ja hoe, rechtzoekenden een vermoeden van discriminatie kunnen aantonen zonder dat er inzicht bestaat in het algoritme en de gehanteerde variabelen. Een aanpak die uitkomst kan bieden, is het identificeren van slachtoffers.⁴⁷xVergelijk Aloisi 2024, p. 61. Het feit dat één iemand uit een beschermde groep is benadeeld (bijvoorbeeld wanneer een vrouw geen promotie krijgt), is logischerwijs onvoldoende om een vermoeden aan te nemen. Er moeten bijkomende omstandigheden zijn.⁴⁸xZo ook Vas Nunes 2018, p. 143-146; Roozendaal & Jovović 2021, par. 8.3.3. In uitzonderingsgevallen kan dit anders zijn, zoals in CRM 24 augustus 2023, oordeelnummer 2023-92 (geautomatiseerde afwijzing terwijl sollicitant alleen naam en leeftijd heeft doorgegeven leidt tot vermoeden van discriminatie, al speelde mee dat de vacature niet was vervuld). Het identificeren van meerdere slachtoffers is zo’n omstandigheid. Op dit punt kunnen werknemersorganisaties een belangrijke rol spelen. Zo slaagde een vakbond er in de zaak Danfoss uit 1989 in om aan de hand van een steekproef te bewijzen dat de beloning van vrouwelijke werknemers in de onderneming gemiddeld lager was dan die van mannen, waardoor de bewijslast verschoof naar de werkgever.⁴⁹xHvJ EG 17 oktober 1989, C-109/88, ECLI:EU:C:1989:383 (Danfoss). Daarnaast vormt ook een gebrek aan transparantie blijkens de al genoemde zaken Kelly en Meister een aanwijzing voor discriminatie. Het Hof overwoog dat, hoewel het gelijkebehandelingsrecht geen recht geeft op inzage, een weigering tot inzage in de gegevens van de uitgekozen kandidaat door de werkgever een van de omstandigheden is die de rechter in aanmerking moet nemen bij het beoordelen van een vermoeden van discriminatie. In het verlengde hiervan is goed verdedigbaar dat als een werknemer(sorganisatie) kan wijzen op meer dan één slachtoffer uit de beschermde groep,⁵⁰xDan wel een slachtoffer en iemand buiten de beschermde groep die niet is benadeeld, zoals een vrouw die is afgewezen voor een sollicitatie en een man die wel is aangenomen. aangevuld met een weigering of onmogelijkheid van de werkgever om inzicht te bieden in het algoritme, een vermoeden van discriminatie kan worden aangenomen.⁵¹xVergelijk Hof Amsterdam 7 oktober 2014, ECLI:NL:GHAMS:2014:4132 (onduidelijke selectiecriteria gecombineerd met een bestaande achterstand in de sector leiden tot een vermoeden van discriminatie). Bij het belopen van deze route lijkt het niet zoveel uit te maken of de rechtzoekende zich op het standpunt stelt dat sprake is van directe of indirecte discriminatie. De bewijslastverlichting houdt in dat de rechtzoekende feiten aantoont die directe of indirecte discriminatie kunnen doen vermoeden. Ook het Hof van Justitie heeft wat de bewijslast betreft tot op heden geen onderscheid gemaakt tussen directe en indirecte discriminatie; zie ook Vas Nunes 2018, p. 133.

  Net als bij route 1 is het vervolgens aan de werkgever om het bewijsvermoeden te ontzenuwen. Aangezien het vermoeden bij route 2 stoelt op het identificeren van slachtoffers, kan de werkgever het vermoeden ontzenuwen door op andere werknemers uit de beschermde groep te wijzen die niet zijn benadeeld door de ter discussie gestelde regel. In route 1 staat deze route niet open: in dat geval is de verdachte variabele geïdentificeerd en moet de werkgever bewijzen dat deze variabele op basis van meeromvattende, statistische gegevens niet daadwerkelijk correleert met de beschermde grond. Het enkel wijzen op een aantal niet-benadeelde personen uit de beschermde groep is hiervoor onvoldoende. Lukt het de werkgever om bij route 2 te wijzen op niet-benadeelde werknemers uit de beschermde groep, dan keert de bewijslast terug naar de rechtzoekende, die vervolgens kan proberen de gestelde discriminatie op basis van het normale bewijsrecht te bewijzen. In dat geval lijkt, vanwege de ondoorzichtigheid van het algoritme, de mogelijkheid om discriminatie aan te tonen uitgespeeld. Kan de werkgever niet wijzen op andere personen uit de beschermde groep, dan heeft de vordering een goede kans van slagen. Het is voor een werkgever moeilijk om aan te tonen dat hij niet heeft gediscrimineerd indien hij niet kan aangeven op basis van welke overwegingen hij tot een bepaald besluit is gekomen en hij dit ook niet door middel van documentatie kan onderbouwen.⁵²xKamerstukken II 1999/2000, 27026, nr. 5, p. 11; Vas Nunes 2018, p. 146-147. Hetzelfde geldt logischerwijs wanneer niet hij, maar een door hem gebruikt algoritme het besluit neemt.⁵³xIn gelijke zin Jovović 2018, p. 144-145. Lukt het hem niet het vermoeden te ontzenuwen, dan staat vast dat hij heeft gediscrimineerd.

• 4 Procesbevoegdheid

  Hiervoor schetste ik twee routes om een vermoeden van algoritmische discriminatie aan te tonen, waarbij bleek dat in beide routes het collectieve aspect een belangrijke rol speelt. Hiermee is nog niet duidelijk welke mogelijkheden werknemersorganisaties hebben om in rechte op te komen tegen algoritmische discriminatie. Indien een organisatie uitsluitend opkomt voor één of meerdere specifieke slachtoffers, ligt procederen met toestemming van deze partij(en) door middel van bijvoorbeeld een procesvolmacht het meest voor de hand.⁵⁴xArtikel 3:60 BW. Vergelijk W. van Eekhout, Opties voor collectief procederen – het bundelen van vorderingen, Beslag, Executie & Rechtsvordering in de praktijk 2018/153. Werknemersorganisaties kunnen er echter ook belang bij hebben om als zelfstandige procespartij en voor een bredere groep op te treden: een collectieve actie dus. Deze meerwaarde bestaat logischerwijs indien een slachtoffer ontbreekt (route 1), maar kan ook aanwezig zijn indien er wel één of meerdere slachtoffers zijn (route 2). Door het juridisch speelveld niet te beperken tot specifieke slachtoffers kunnen positieve effecten worden behaald voor een grotere groep werknemers, en kan – in de woorden van het Hof in de arresten Feryn en Associazone – op grotere schaal een maatschappelijk allesomvattende arbeidsmarkt worden bevorderd.⁵⁵xZie ook Europees Parlement 18 mei 2000, A5-0136/2000, p. 21-22; C.I. Nagy, The European Collective Redress Debate After the European Commission’s Recommendation. One Step Forward, Two Steps Back?, Maastricht Journal of European and Comparative Law 2015, p. 534-535; Gaudio 2024, p. 102. Dit geldt in het bijzonder waar het gaat om algoritmen die naar hun aard betrekking hebben op meerdere groepen werknemers, maar het vanwege hun ondoorzichtigheid lastig maken om concrete slachtoffers te identificeren. Om deze redenen, en omdat de collectieve actie de meeste vragen oproept, focus ik in het vervolg op de mogelijkheden om een collectieve actie te starten tegen algoritmische discriminatie.

  Het Europese gelijkebehandelingsrecht dwingt lidstaten niet om te voorzien in de juridische mogelijkheid een collectieve actie aan te spannen tegen (algoritmische) discriminatie. Ondanks pogingen van de Europese Commissie en het Europees Parlement om een dergelijke verplichting op te nemen in de Europese gelijkebehandelingsrichtlijnen, vond een aantal lidstaten het eind jaren negentig niet wenselijk om werknemersorganisaties in staat te stellen om zelfstandig en zonder toestemming van een slachtoffer een discriminatiezaak aan te spannen.⁵⁶xZie Lahuerta 2018, p. 802, met nadere verwijzingen. Als gevolg hiervan verplicht het Europese gelijkebehandelingsrecht lidstaten weliswaar tot het toekennen van procesbevoegdheid aan organisaties, maar alleen indien en voor zover zij (1) op basis van criteria uit het nationale recht een rechtmatig belang hebben bij de naleving van het gelijkebehandelingsrecht (bijvoorbeeld omdat zij deze belangen blijkens hun statuten behartigen), en (2) optreden namens of ter ondersteuning en met toestemming van een slachtoffer.⁵⁷xArtikel 7 lid 2 Richtlijn 2000/43/EG; artikel 9 lid 2 Richtlijn 2000/78/EG; artikel 17 lid 2 Richtlijn 2006/54/EG. De formulering ‘namens of ter ondersteuning van’ maakt duidelijk dat lidstaten werknemersorganisaties geen zelfstandige procesbevoegdheid hoeven toe te kennen. De eis dat er toestemming van een slachtoffer moet zijn, brengt voorts mee dat er een geïdentificeerd slachtoffer moet zijn. Het gevolg is dat, hoewel ook discriminatie zonder identificeerbaar of geïdentificeerd slachtoffer – de hiervoor besproken route 1 – verboden is, het Europese gelijkebehandelingsrecht zonder concreet slachtoffer niet dwingt tot handhaving.⁵⁸xHvJ EG 10 juli 2008, C-54/07, ECLI:EU:C:2008:397 (Feryn); HvJ EU 23 april 2020, C-507/18, ECLI:EU:C:2020:289 (Associazone). Zie hierover kritisch Lahuerta 2018; F. Dorssemont, Collective Actors Enforcing EU Labour Law, in: Z. Rasnača e.a. (red.), Effective Enforcement of EU Labour Law, Londen: Bloomsbury Publishing 2022, p. 375.

  Het voorgaande wil niet zeggen dat lidstaten niet kunnen voorzien in een collectieve actie tegen discriminatie, zo overwoog het Hof in de zaken Feryn en Associazone.⁵⁹xRedengevend is het minimumkarakter van de Europese gelijkebehandelingsrichtlijnen. De meeste lidstaten voorzien in deze mogelijkheid; zie I. Chopin & C. Germaine, A comparative analysis of non-discrimination law in Europe 2022, Brussel: Europese Commissie 2023, p. 87-97. Zie over de wijze waarop van deze mogelijkheid gebruik wordt gemaakt in de platformeconomie o.a. M.T. Carinci & F. Dorssemont (red.), Platform Work in Europe. Towards Harmonisation?, Antwerpen: Intersentia 2021; C. Stylogiannis, Collective Labour Rights for Self-Employed Workers, Deventer: Wolters Kluwer 2023. In Nederland vormt artikel 3:305a van het Burgerlijk Wetboek (BW) – naast de klachtenprocedure bij het College voor de Rechten van de Mens (CRM, hierna ook: het College)⁶⁰xOp grond van artikel 10 lid 2 onder e Wet College voor de Rechten van de Mens kan een verzoek aan het College worden ingediend door een vereniging met volledige rechtsbevoegdheid of stichting, die in overeenstemming met haar statuten de belangen behartigt van diegenen in wier bescherming de AWGB, de WGB of artikel 7:646 BW beoogt te voorzien. Hetzelfde recht komt blijkens artikel 10 lid 2 onder d toe aan de ondernemingsraad, waarover par. 4. – het relevante kader.⁶¹xKamerstukken II 2002/03, 28770, nr. 3, p. 16-17 en 20. Op grond van artikel 3:305a lid 1 BW kan een stichting of vereniging met volledige rechtsbevoegdheid een rechtsvordering instellen die strekt tot bescherming van gelijksoortige belangen van andere personen, voor zover zij deze belangen ingevolge haar statuten behartigt. Voor de ontvankelijkheid van groepsacties moet de organisatie ingevolge artikel 3:305a lid 2 BW voldoende representatief zijn, ‘gelet op de achterban en de omvang van de vertegenwoordigde vorderingen’. Ook dient zij te voldoen aan verschillende governance-eisen, zoals het hebben van een toezichthoudend orgaan.⁶²xArtikel 3:305a lid 2 onderdelen a tot en met e en lid 5 BW. In een collectieve actie wordt per definitie opgekomen voor de belangen van alle door een gebeurtenis gedupeerde benadeelden. Artikel 3:305a BW biedt daarom niet de mogelijkheid alleen op te komen voor bijvoorbeeld de eigen leden; Kamerstukken II 2012/13, 33126, nr. 7, p. 10; Van Eekhout 2018, p. 17. Naar het lijkt anders oordeelde Rb. Den Haag 22 november 2000, ECLI:NL:RBSGR:2000:AA8534. In deze enige mij bekende artikel 3:305a-discriminatiezaak leek FNV alleen op te komen voor haar eigen leden, maar werd zij niettemin ontvankelijk verklaard. Collectieve acties op grond van artikel 3:305a BW kunnen worden onderscheiden in twee categorieën: groepsacties en algemeenbelangacties (ook wel bekend als ideële acties).⁶³xAlgemeenbelangacties zijn gericht op het behartigen van ideële belangen die niet of niet zonder meer kunnen worden teruggebracht tot een bepaald aantal individuele personen; Kamerstukken II 1991/92, 22486, nr. 3, p. 22; R.J.B. Schutgens & J.J.J. Sillen, Samenloop van ideële en collectieve belangenbehartiging: de ontvankelijkheidsbeslissing in FNV & CNV Temper, NTBR 2023/26, p. 257. Hoewel een algoritmische discriminatiezaak kan worden ingestoken als een algemeenbelangactie – verdedigbaar is dat de maatschappij als geheel er baat bij heeft dat (algoritmische) discriminatie op de arbeidsmarkt wordt aangepakt⁶⁴xZie in deze zin S. Chubrikj & N. Chalovska-Dimovska, Use of actio popularis in Cases of Discrimination, Skopje: Organization for Security and Co-operation in Europe 2016, p. 6. Vergelijk tevens Rb. Amsterdam 13 juli 2022, ECLI:NL:RBAMS:2022:4035 (vordering van CNV en FNV om te verklaren dat Temper-werkers uitzendkracht of werknemer zijn heeft mede een ideëel doel) en de rechtspraak genoemd in D.M.A. Bij de Vaate, C. van den Bor & W.H.A.C.M. Bouwens, Handhaving door de vakorganisaties, in: A.R. Houweling & L.C.J. Sprengers (red.), Transitie en arbeid. Boek ter gelegenheid van het 75-jarig bestaan van de VvA, Den Haag: Boom juridisch 2022, p. 132. – meen ik dat de toegevoegde waarde hiervan gering is. De kwalificatie van algemeenbelangactie zet alleen de governance-eisen opzij en niet de materiële ontvankelijkheidseisen van gelijksoortigheid en representativiteit (waarover hierna meer).⁶⁵xKamerstukken II 2018/19, 34608, nr. 14; Bij de Vaate, Van den Bor & Bouwens 2022, p. 132; Rb. Amsterdam 13 juli 2022, ECLI:NL:RBAMS:2022:4035 (Temper), r.o. 4.10. Aangezien de aard en insteek van de vordering die wordt ingediend bij een algemeenbelangactie anders kunnen zijn dan bij een groepsactie (het betreft immers andere belangen en een andere achterban), kan de kwalificatie als algemeenbelangactie wel indirect invloed uitoefenen op de invulling van representativiteit en gelijksoortigheid. Hierna zal echter blijken dat de discriminatievorderingen die ik op het oog heb vrij concreet zijn en dus niet verschillen per type actie. Bovendien kan in een algemeenbelangactie geen schadevergoeding worden gevorderd,⁶⁶xArtikel 3:305a lid 6 BW. terwijl dit in (algoritmische) discriminatiezaken een belangrijk sanctiemiddel is.⁶⁷xZoals gezegd, dwingt het Europese gelijkebehandelingsrecht niet tot handhaving indien er geen slachtoffer is. Wel moet de sanctie – ook al dwingt het Europese recht niet tot handhaving – proportioneel zijn, maar dit impliceert geen recht op schadevergoeding; HvJ EU 23 april 2020, C-507/18, ECLI:EU:C:2020:289 (Associazone). Een andere optie is dat de werknemersorganisatie terzijdestelling of aanpassing van het algoritme vordert om discriminatie in de toekomst te voorkomen. Deze route is met name denkbaar indien er geen identificeerbaar slachtoffer is.

  Dan de vereisten van representativiteit en gelijksoortigheid. De eis van representativiteit beoogt voornamelijk claimorganisaties met commerciële motieven tegen te gaan en heeft niet de bedoeling de gevestigde orde van belangenorganisaties te beperken.⁶⁸xKamerstukken II 2011/12, 33126, nr. 3, p. 5; Kamerstukken II 2016/17, 34608, nr. 3, p. 18; Kamerstukken II 2016/17, 34608, nr. 6, p. 11; Kamerstukken II 2018/19, 34608, nr. 14; Bij de Vaate, Van den Bor & Bouwens 2022, p. 131-132. De rechtspraak leert dat werknemersorganisaties deze toets doorgaans doorstaan. Dit geldt voor gevestigde vakbonden die opkomen voor verschillende werknemersbelangen,⁶⁹xC. van den Bor & D.M.A. Bij de Vaate, Collectief procederen door de vakbond, TRA 2020/12; D.M.A. Bij de Vaate & S. Özkul, Collectieve handhaving door de vakbonden: mogelijkheden en uitdagingen, TRA 2024/47. en hetzelfde kan worden gezegd van belangenorganisaties die specifiek discriminatie beogen te bestrijden, zoals Bureau Clara Wichmann.⁷⁰xVergelijk (doch gewezen onder het oude recht, toen representativiteit nog geen harde ontvankelijkheidsvoorwaarde was) HR 9 april 2010, ECLI:NL:HR:2010:BK4549 (Bureau Clara Wichmann/SGP). Het gelijksoortigheidsvereiste houdt in dat de belangen zich moeten lenen voor bundeling, zodat in één procedure geoordeeld kan worden over de vorderingen zonder daarbij de bijzondere omstandigheden van individuele belanghebbenden te hoeven betrekken.⁷¹xHR 26 februari 2010, ECLI:NL:HR:2010:BK5756 (Stichting Baas in eigen huis/Plazacasa). Vóór de inwerkingtreding van het huidige artikel 3:305a BW op 1 januari 2020 legde de rechtspraak het gelijksoortigheidsvereiste ruim uit. Vorderingen konden zich lenen voor bundeling, ondanks dat specifieke omstandigheden in individuele gevallen tot een andere uitkomst konden leiden.⁷²xBijvoorbeeld Rb. Amsterdam 15 januari 2019, ECLI:NL:RBAMS:2019:198 (vordering van FNV om te verklaren dat tussen Deliveroo en haar bezorgers arbeidsovereenkomsten bestaan is ontvankelijk, ondanks dat in individuele gevallen sprake kan zijn van een overeenkomst van opdracht); Bij de Vaate & Özkul 2024, p. 19. Dit was niet problematisch, omdat het vonnis alleen bindende kracht had tussen partijen, en in een eventuele vervolgprocedure door individuele werknemers rekening kon worden gehouden met individuele omstandigheden die een afwijking van de uitspraak in de collectieve procedure rechtvaardigden.⁷³xVan den Bor & Bij de Vaate 2020, p. 5. Sinds 1 januari 2020 is de uitspraak echter bindend voor alle belanghebbenden voor wie de organisatie opkomt, tenzij zij gebruik hebben gemaakt van een opt-out mogelijkheid.⁷⁴xArtikel 1018k lid 1 Rv. In discriminatiezaken ligt het gebruikmaken van deze mogelijkheid niet voor de hand. Met Bij de Vaate, Van den Bor en Özkul ben ik daarom van mening dat sinds 1 januari 2020 een striktere toetsing aan het gelijksoortigheidsvereiste voor de hand ligt.⁷⁵xVan den Bor & Bij de Vaate 2020, p. 7; Bij de Vaate & Özkul 2024, p. 18-19. Onduidelijk is of de rechtspraak deze opvatting deelt. Vergelijk bijvoorbeeld Rb. Den Haag 8 maart 2023, ECLI:NL:RBDHA:2023:2686 (FNV en CNV zijn niet-ontvankelijk in de vordering tegen de staat tot vergoeding van schade voor zorgpersoneel met post-Covid vanwege grote verschillen tussen zorgmedewerkers) en Rb. Amsterdam 13 juli 2022, ECLI:NL:RBAMS:2022:4035 (vordering van CNV en FNV om te verklaren dat Temper-werkers uitzendkracht of werknemer zijn is ontvankelijk ondanks mogelijke verschillen tussen Temper-werkers). Voor de ontvankelijkheid van werknemersorganisaties in algoritmische discriminatiezaken hoeft dit echter geen probleem te zijn. Het zal werknemersorganisaties meestal te doen zijn om het aantonen van (een vermoeden van) discriminatie op een specifieke grond, zoals leeftijd of geslacht, en met betrekking tot een specifieke personeelsbeslissing, zoals het bepalen van de hoogte van het loon of het afwijzen van een sollicitant.⁷⁶xVergelijk Rb. Den Haag 22 november 2000, ECLI:NL:RBSGR:2000:AA8534 (FNV stelt collectieve actie in voor gelijke beloning m/v binnen een onderneming); https://clara-wichmann.nl/nieuws/discriminerende-algoritmes-bestrijden-via-het-recht/ (Bureau Clara Wichmann en Global Witness dienen klacht in tegen Meta wegens discriminatie wegens geslacht bij plaatsing van vacatures door het algoritme); CRM 17 oktober 2023, oordeelnummer 2023-111 (vermoeden van discriminatie nu tentamensoftware gezicht van studente niet herkende vanwege donkere huidskleur). Het gaat met andere woorden om een vrij concrete vordering die ziet op een vrij concrete groep personen, waardoor het gelijksoortigheidsvereiste niet snel problemen zal opleveren.⁷⁷xHet gelijkebehandelingsrecht (en hetzelfde geldt voor de AVG) biedt daarentegen geen ruimte voor een meer algemeen geformuleerde vordering, die inhoudt dat de werkgever elke mogelijke vorm van discriminatie die optreedt als gevolg van de door hem gehanteerde algoritmen opheft. De bewijslastverdeling vereist immers dat rechtzoekenden één of meerdere specifieke vormen van discriminatie, althans een vermoeden daarvan, aantoont.

  Er zijn ook situaties denkbaar waarin een werknemersorganisatie signalen opvangt dat een algoritme op bredere schaal discrimineert, zij het op meerdere gronden of met betrekking tot meerdere personeelsbeslissingen.⁷⁸xVergelijk CRM 24 augustus 2023, oordeelnummer 2023-92 (geautomatiseerde afwijzing terwijl sollicitant alleen naam en leeftijd heeft doorgegeven leidt tot vermoeden van discriminatie op grond van zowel etniciteit als leeftijd). In dit geval zal de werknemersorganisatie in één collectieve actie tegen de werkgever de verschillende vormen van discriminatie aan de orde willen stellen. Ook in dit geval hoeft het gelijksoortigheidsvereiste – ondanks dat de uitkomst, bijvoorbeeld door een verschil in rechtvaardigingsgronden, per type discriminatie kan verschillen – mijns inziens niet aan de collectieve actie in de weg te staan. Artikel 3:305a BW laat ruimte om in een collectieve actie verschillende vorderingen in te dienen. Het gaat erom dat per vordering de betrokken belangen zodanig gelijksoortig zijn dat zij zich lenen voor bundeling.⁷⁹xA.W. Jongbloed, GS Vermogensrecht, artikel 3:305a BW, aant. 9.4 (online, bijgewerkt 3 juli 2023). Ingevolge artikel 1018e lid 2 Rv moet dan ook per vordering nauw worden omschreven voor welke groep personen zij wordt ingesteld.

  Ik wijs tot slot op de verhouding tussen artikel 3:305a BW en de AVG. Ik besprak hiervoor dat het inzagerecht uit de AVG kan worden gebruikt om inzicht in het algoritme en de gehanteerde variabelen te krijgen.⁸⁰xHet inzagerecht kan ook worden gebruikt om de ondoorzichtigheid van het algoritme aan te tonen, hetgeen zoals gezegd een rol speelt in route 2, maar ook zonder inzagerecht kan de werknemersorganisatie dit resultaat bereiken met een beroep op de arresten Kelly en Meister. Wel kan de aanwezigheid van een wettelijk recht op informatie ertoe leiden dat in route 2 sneller een vermoeden van discriminatie wordt aangenomen: zie hierna par. 5. Hoewel de rechten uit de AVG net als die uit het gelijkebehandelingsrecht kunnen worden uitgeoefend door belangenorganisaties door middel van een collectieve actie,⁸¹xArtikel 80 lid 2 AVG. Zie hierover o.a. M. Gülcür, Collectieve acties wegens inbreuk op de Algemene verordening gegevensbescherming, Maandblad voor Vermogensrecht 2022, p. 289-299; T.O. van Hoorn, Wie durft na de TikTok-uitspraken nog massaschade te claimen bij een privacyschending?, Tijdschrift voor Internetrecht 2024/2, p. 42-49. ligt dit voor het uitoefenen van het inzagerecht in algoritmische discriminatiezaken niet voor de hand. Het via een collectieve actie uitoefenen van het inzagerecht in algoritmische discriminatiezaken zou betekenen dat de werknemersorganisatie eerst een collectieve actie doorloopt om inzicht te krijgen in het algoritme, en vervolgens een tweede collectieve actie start om een vermoeden van discriminatie aan te tonen. De werknemersorganisatie heeft het eerste immers nodig voor het tweede en doorloopt afhankelijk van de resultaten in de eerste collectieve actie route 1 of 2. Deze processtrategie ligt niet in de rede, al was het maar omdat de rechter elke collectieve-actiezaak na aantekening in het register drie maanden aanhoudt (hetgeen dus leidt tot vertraging).⁸²xArtikel 1018c lid 3 Rv. Logischer is dat de werknemersorganisatie in overleg treedt met de achterban⁸³xDe rechter gaat tevens na in hoeverre de werkgever zijn informatieplicht (ex artikel 13-14 AVG) al is nagekomen. Verdedigbaar is overigens dat overleg met de achterban een noodzakelijke stap is om het informatierecht via een collectieve actie uit te oefenen. Ingevolge artikel 3:305a lid 3 BW moet de organisatie hebben geprobeerd om het gevorderde te bereiken door overleg met de wederpartij. De werkgever kan dit overleg vrij makkelijk pareren indien de organisatie niet weet en ook niet is nagegaan welke informatie de werkgever al heeft gegeven aan de werknemers. en dat één of meerdere van hen, zo nodig via de rechter, een inzageverzoek doen bij de werkgever op grond van de AVG.⁸⁴xWel brengt dit meer risico mee voor de betrokken werknemers, die zich met naam en toenaam bekend moeten maken bij de werkgever. Ook het indienen van een klacht bij het CRM behoort tot de mogelijkheden. Het College kan namelijk eveneens informatie bij de werkgever opvragen.⁸⁵xArtikel 13 onder c-d Procesreglement College voor de Rechten van de Mens. Onduidelijk is echter wat het gevolg is wanneer de werkgever weigert aan het verzoek van het College mee te werken. Aansluiting bij de hiervoor genoemde zaken Kelly en Meister ligt voor de hand, wat wil zeggen dat de weigering – net als wanneer het een verzoek van een werknemer betreft – slechts een omstandigheid is die meespeelt in de beoordeling of sprake is van een vermoeden van discriminatie. Overleg en samenwerking met de achterban lijkt daarom de meest doeltreffende manier om inzicht te krijgen in het algoritme.

• 5 AI-Verordening en Richtlijn Platformwerk

  Wat voegen de AI-Verordening en de Richtlijn Platformwerk aan het voorgaande toe? De AI-Verordening is het digitaliseringsvlaggenschip van de EU en is ontworpen om de risico’s die gepaard gaan met de inzet van AI-systemen, waaronder bias en discriminatie, tegen te gaan. Net als de AVG vult de AI-Verordening de gelijkebehandelingswetgeving aan door aanbieders en gebruikers van AI-systemen verschillende verplichtingen op te leggen die onder andere bias en discriminatie dienen te voorkomen.⁸⁶xZie artikelen 9 (verplicht systeem voor risicobeheer), 10 (kwaliteitseisen voor datasets), 11 (documentatieverplichting bias tests), 15 (transparantieverplichting) en 27 (grondrechtentoets) AI-Verordening. In gelijke zin adresseert de Richtlijn Platformwerk, naast het bekende kwalificatieprobleem, specifieke problemen die het gebruik van algoritmen voor personeelsbeslissingen (in de Richtlijn aangeduid als algoritmisch management) meebrengt voor platformwerkers.⁸⁷xZie artikelen 7 (verdergaande beperkingen voor geautomatiseerde besluitvorming op de werkvloer, waaronder een ongeclausuleerd verbod op het verwerken van persoonsgegevens die betrekking hebben op een beschermde grond), 8 (verplichte impact assessment), 9 (transparantieverplichting) en 10 (verplicht menselijk toezicht) Richtlijn Platformwerk. Net als het discriminatieverbod gelden deze verplichtingen ongeacht de arbeidsrechtelijke status (werknemer of zelfstandige) van de platformwerker. De AI-Verordening en de Richtlijn Platformwerk vormen hiermee een belangrijke aanvulling op de AVG, ook omdat zij – anders dan de AVG – niet gericht zijn op de verwerking van individuele persoonsgegevens, maar op de werking van het algoritme als geheel.⁸⁸xIn gelijke zin, met betrekking tot de Richtlijn Platformwerk, M. Otto, A step towards digital self- & co-determination in the context of algorithmic management systems, Italian Labour Law e-Journal 2022/1, p. 60.

  Beide wetgevingsinstrumenten bevatten verschillende informatierechten die het inzagerecht uit de AVG aanvullen. Artikel 26 lid 7 AI-Verordening verplicht werkgevers om, voordat zij een AI-systeem met een hoog risico op de werkplek in gebruik nemen, de betrokken werknemers en hun vertegenwoordigers het gebruik van het AI-systeem mede te delen.⁸⁹xDeze bepaling kwam tot stand naar aanleiding van een amendement van het Europees Parlement (P9_TA(2023)0236, amendement 408). Op het oorspronkelijke gebrek aan een rol voor de werknemersvertegenwoordiging bestond veel kritiek; zie o.a. European Trade Union Congress, Commission’s proposal for a regulation on Artificial Intelligence fails to address the workplace dimension, https://etuclex.etuc.org/european-commission-proposal-regulation-artificial-intelligence; V. De Stefano & S. Taes, Algorithmic management and collective bargaining, Foresight Brief 2021/10, p. 10-11; V. Doellgast, Strengthening Social Regulation in the Digital Economy: Comparative Findings from the ICT Industry, Labour and Industry 2023/1, p. 9-10. AI-systemen die worden gebruikt voor personeelsbeslissingen, zoals algoritmen die zien op werving of beloning, zijn in beginsel te kwalificeren als hoog risico.⁹⁰xPreambule 57, artikel 6 lid 2 en bijlage III onder 4 AI-Verordening; Hacker 2021. Dit kan anders zijn, bijvoorbeeld indien het systeem is bedoeld om een beperkte procedurele taak uit te voeren of alleen een voorbereidende handeling uitvoert; Preambule 53 en artikel 6 lid 3 AI-Verordening; M. Kullmann, De rol van het EU sociaal acquis bij de Europese regulering van Artificiële Intelligentie, TAC 2022/2, p. 44-45; De Jager 2024, p. 4-5. Van dit laatste is mijns inziens geen sprake indien het algoritme een ‘besluit’ neemt zoals bedoeld in de AVG. Daarnaast hebben werknemers recht op duidelijke en inhoudelijke uitleg over de rol van deze AI-systemen op personeelsbeslissingen die op hen betrekking hebben.⁹¹xArtikel 86 AI-Verordening. De Richtlijn Platformwerk bevat op zijn beurt verschillende informatieverplichtingen die zien op het gebruik van algoritmisch management door werkplatforms. Een platform dient:

  • een beoordeling te maken van de gevolgen van de verwerking van persoonsgegevens door geautomatiseerd toezicht en geautomatiseerde besluitvorming en deze te overleggen aan de werknemersvertegenwoordiging;⁹²xArtikel 8 Richtlijn Platformwerk jo. artikel 35 AVG.

  • platformwerkers en hun vertegenwoordigers gedetailleerde informatie te verschaffen over het gebruik van geautomatiseerd toezicht en geautomatiseerde besluitvorming;⁹³xArtikel 9 Richtlijn Platformwerk. Het betreft bijvoorbeeld informatie over alle beslissingen die worden ondersteund of genomen door het algoritme en de mogelijke gevolgen voor de werker (zoals ontslag) alsook de redenen daarvoor.

  • samen met de werknemersvertegenwoordiging het effect van individuele beslissingen die voortvloeien uit geautomatiseerd toezicht en geautomatiseerde besluitvorming te evalueren en deze evaluatie aan hen te overleggen;⁹⁴xArtikel 10 Richtlijn Platformwerk.

  • de werknemersvertegenwoordiging te informeren en te raadplegen over het invoeren of substantieel wijzigen van het gebruik van geautomatiseerd toezicht en geautomatiseerde besluitvorming, waarbij de werknemersvertegenwoordiging zich mag laten bijstaan door een expert.⁹⁵xArtikel 13 Richtlijn Platformwerk.

  Hoewel de AI-Verordening en de Richtlijn Platformwerk de informatierechten niet nadrukkelijk koppelen aan discriminatie, stellen de hiervoor genoemde rechten werknemers(organisaties) beter in staat om na te gaan of het algoritme variabelen gebruikt die verband houden met een beschermde grond. Het recht op informatie wordt immers uitgebreid naar andere onderwerpen dan alleen geautomatiseerde besluitvorming, en ook in geval van geautomatiseerde besluitvorming zal de werkgever gedetailleerdere informatie moeten geven. Als gevolg hiervan zal het vaker mogelijk zijn om route 1, die niet afhankelijk is van het identificeren van slachtoffers, te doorlopen. Daarnaast is van groot belang dat de AI-Verordening en de Richtlijn Platformwerk de informatierechten, anders dan de AVG, die het inzagerecht zoals gezegd toekent aan individuen, rechtstreeks toekennen aan werknemersvertegenwoordigers. Dit is een belangrijke stap vooruit voor werknemersorganisaties die via route 1 zelfstandig op willen komen tegen algoritmische discriminatie.

  Wel roept het toekennen van informatierechten aan werknemersvertegenwoordigers de vraag op wie de werknemersvertegenwoordigers in de zin van de AI-Verordening en de Richtlijn Platformwerk zijn.⁹⁶xDaarnaast resteert het probleem dat, indien de werkgever zijn informatieplichten niet nakomt, werknemersorganisaties alleen via artikel 3:305a BW nakoming van de informatieplichten bij de rechter kunnen afdwingen. Zowel de AI-Verordening (die uitgaat van publiekrechtelijke handhaving) als de Richtlijn Platformwerk (die dezelfde handhavingssystematiek hanteert als het gelijkebehandelingsrecht en de AVG) biedt hun geen ander rechtsmiddel. Wel kan een werknemersorganisatie ingevolge artikel 85 AI-Verordening een klacht indienen bij de nationale toezichthouder. Zowel de AI-Verordening als de Richtlijn Platformwerk definieert het begrip ‘werknemersvertegenwoordiging’ niet. Deze benadering sluit aan bij andere Europese richtlijnen die het recht op informatie en raadpleging regelen en waarin de Europese wetgever het aanwijzen van de bevoegde werknemersvertegenwoordiging vanwege de uiteenlopende nationale tradities aan de lidstaten laat.⁹⁷xZie bijvoorbeeld Richtlijn 2002/14/EG van het Europees Parlement en de Raad van 11 maart 2002 tot vaststelling van een algemeen kader betreffende de informatie en de raadpleging van de werknemers in de Europese Gemeenschap, artikel 2 onder e; Richtlijn 98/59/EG van de Raad van 20 juli 1998 betreffende de aanpassing van de wetgevingen van de lidstaten inzake collectief ontslag, artikel 1 lid 1 onder b; Barnard 2012, p. 686-687; T. Jaspers & P. Lorber, Workers’ Participation in Business Matters, in: Jaspers, Pennings & Peters (red.) 2024, p. 534-537. Dit betekent dat het aan de lidstaten is om te bepalen aan welke werknemersorganisaties de informatierechten uit de AI-Verordening en de Richtlijn Platformwerk toekomen. Ik plaats hierbij wel een kanttekening. Zowel de AI-Verordening als de Richtlijn Platformwerk verwijst in een enkel geval naar Richtlijn 2002/14/EG inzake een algemeen kader voor de informatie en raadpleging van werknemers. Het betreft het informatierecht uit artikel 26 lid 7 AI-Verordening (betreffende het introduceren van een hoogrisico-AI-systeem op de werkvloer) en artikel 13 Richtlijn Platformwerk (betreffende de invoering of substantiële wijziging van het gebruik van geautomatiseerd toezicht en geautomatiseerde besluitvorming).⁹⁸xZie Preambule 92 jo. artikel 26 lid 7 AI-Verordening; artikel 13 Richtlijn Platformwerk. Wat betreft de AI-Verordening beoogt de verwijzing te verduidelijken dat de informatieplicht, die het karakter heeft van een mededelingsplicht, niet afdoet aan eventuele, verdergaande informatie- en raadplegingsverplichtingen die voortvloeien uit Richtlijn 2002/14/EG. Ten aanzien van de Richtlijn Platformwerk heeft de verwijzing een verstrekkender betekenis en maakt zij duidelijk dát er op dit punt een informatie- en raadplegingsverplichting in de zin van Richtlijn 2002/14/EG bestaat.⁹⁹xVoor de AI-Verordening gold oorspronkelijk hetzelfde, maar de verwijzing naar Richtlijn 2002/14/EG is later verplaatst naar de preambule. Het gevolg is dat het introduceren van een AI-systeem met een hoog risico op de werkvloer niet per definitie een informatie- en raadplegingsplicht zoals bedoeld in Richtlijn 2002/14/EG met zich brengt, maar dit per geval moet worden getoetst. In Nederland is hierin voorzien in de Wet op de ondernemingsraden (WOR): zie hierna. De verwijzing dwingt in beide gevallen niet tot aansluiting bij de werknemersvertegenwoordiging uit Richtlijn 2002/14/EG, maar een dergelijke aansluiting ligt wel voor de hand.¹⁰⁰xZo stelt De Jager (2024, p. 7) dat het informatierecht uit de AI-Verordening richting de ondernemingsraad zal gaan. Ik heb hier echter mijn vraagtekens bij. Naar Nederlands recht komen de informatie- en raadplegingsrechten uit Richtlijn 2002/14/EG toe aan de ondernemingsraad op grond van de Wet op de ondernemingsraden (WOR). Deze koppeling is niet dwingend: ook Richtlijn 2002/14/EG laat het aanwijzen van de werknemersvertegenwoordiging aan de lidstaten. Verschillende lidstaten hebben hiervoor dan ook niet (of niet alleen) de ondernemingsraad, maar een ander orgaan zoals de vakbond aangewezen.¹⁰¹xZie voor een overzicht SEC(2008) 334 final, par. 3.2 onder e. Voor de onderwerpen die zijn geregeld in de AI-Verordening en de Richtlijn Platformwerk is het niet vanzelfsprekend om de informatierechten (alleen) toe te kennen aan de ondernemingsraad.¹⁰²xGezien de ingewikkelde verhouding tussen ondernemingsraden en platformwerk geldt dit in het bijzonder voor de Richtlijn Platformwerk; zie A. Aloisi, S. Rainone & N. Countouris, An unfinished task? Matching the Platform Work Directive with the EU and international ‘social acquis’, ILO Working Paper 101, Genève: ILO 2023, p. 20-24; M. Veale, M. Silverman & R. Binns, Fortifying the algorithmic management provisions in the proposed Platform Work Directive, European Labour Law Journal 2023, p. 321-326. Zie voorts A. Aloisi & N. Potocka-Sionek, De-gigging the labour market? An analysis of the ‘algorithmic management’ provisions in the proposed Platform Work Directive, Italian Labour Law e-Journal 2022/1, p. 41, die stellen dat met ‘werknemersvertegenwoordiging’ primair vakbonden zijn bedoeld en dat het niet expliciet vermelden daarvan met name de bedoeling heeft de reikwijdte van de Richtlijn Platformwerk niet onnodig te beperken. In de totstandkomingsgeschiedenis lees ik deze bedoeling echter niet duidelijk terug. Dit geldt in het bijzonder voor de mogelijkheden van werknemersorganisaties om op te komen tegen algoritmische discriminatie. Verschillende besluiten die zien op het gebruik van algoritmisch management zijn op grond van de WOR advies- of zelfs instemmingsplichtig, met als gevolg dat ondernemingsraden indirect een belangrijke rol kunnen spelen om algoritmische discriminatie te voorkomen.¹⁰³xZie o.a. artikel 25 lid 1 onder k (invoeren of wijzigen van een belangrijke technologische voorziening), artikel 27 lid 1 onder e (aanstellings-, ontslag- of bevorderingsbeleid), lid k (verwerking en bescherming van persoonsgegevens) en lid l (voorzieningen inzake waarneming van of controle op aanwezigheid, gedrag of prestaties) WOR; S. Schermerhorn & S.R. Blankestijn, De rol van de ondernemingsraad bij de implementatie van de Algemene Verordening inzake Gegevensbescherming, ArbeidsRecht 2018/15; D.J.A. Vesters & C.P.C. Meyer-de Swaan, De medezeggenschapsaspecten van de AVG, TAO 2018, p. 65-72; R.E.M. Vink-Dijkstra & G.L. Wife, Europese maatregelen tegen beloningsdiscriminatie: een belangrijke rol voor de Nederlandse ondernemingsraad, TAP 2022/2; De Jager 2024, p. 7-8. Hun komt echter – op het indienen van een klacht bij het CRM na¹⁰⁴xArtikel 10 lid 2 onder d Wet College voor de Rechten van de Mens. – geen rechtsmiddel toe om achteraf, dus nadat het heeft plaatsgevonden, in rechte op te komen tegen algoritmische discriminatie. Het uitgangspunt is dat de ondernemingsraad procesbevoegdheid heeft als daarvoor in de WOR of een andere wettelijke regeling een specifieke bevoegdheid is opgenomen.¹⁰⁵xHR 3 december 1993, ECLI:NL:HR:1993:ZC1163, NJ 1994/375. Men vindt deze bevoegdheid niet in artikel 3:305a BW en evenmin in artikel 28 lid 3 WOR, op grond waarvan de ondernemingsraad tegen discriminatie in de onderneming dient te waken, maar waarin geen procesbevoegdheid is opgenomen.¹⁰⁶xZie ook C.L.C. Reynaers, Het procesrecht van de ondernemingsraad op grond van artikel 28 WOR; waarheen, waarvoor?, ArbeidsRecht 2021/38, p. 34; Vink-Dijkstra & Wife 2022, p. 19-20. Dit betekent dat, indien de Nederlandse wetgever de synergie met het gelijkebehandelingsrecht en de mogelijkheden voor werknemersorganisaties om te procederen tegen algoritmische discriminatie wil versterken,¹⁰⁷xIk realiseer mij dat deze wil, in ieder geval waar het gaat om collectieve acties, op basis van het Hoofdlijnenakkoord van 16 mei 2024 hoogstwaarschijnlijk ontbreekt. Zie Hoofdlijnenakkoord HOOP, LEF EN TROTS 2024-2028, te raadplegen via www.tweedekamer.nl/downloads/document?id=2024D19455, p. 18. het niet voor de hand ligt de informatierechten uit de AI-Verordening en de Richtlijn Platformwerk (alleen) toe te kennen aan de ondernemingsraad.

  De vervolgvraag is aan welke werknemersorganisaties de informatierechten uit de AI-Verordening en de Richtlijn Platformwerk (nog meer) zouden kunnen worden toegekend.¹⁰⁸xHet toekennen van procesbevoegdheid voor collectieve acties aan ondernemingsraden ligt, gezien de dubbele doelstelling van ondernemingsraden en daarmee samenhangende spanningen op het gebied van bijvoorbeeld onafhankelijkheid en gelijkwaardigheid, niet voor de hand. Zie over deze spanningen bijvoorbeeld N. Jansen, Een juridisch onderzoek naar de representativiteit van vakbonden in het arbeidsvoorwaardenoverleg (MSR nr. 74) (diss. Amsterdam UvA), Deventer: Wolters Kluwer 2019, par. 8.3.2. Het spreekt voor zich werkgevers niet te verplichten om informatie over algoritmen – die doorgaans bedrijfsgeheim zijn¹⁰⁹xZie over deze problematiek o.a. Kullmann 2019 en artikel 21 lid 2 Richtlijn Platformwerk. – met allerlei belangenorganisaties te delen. Inspiratie kan worden geput uit de Wet melding collectief ontslag (WMCO). De WMCO vormt de implementatie van de Richtlijn Collectief ontslag, die verplicht tot informatie en raadpleging van werknemersvertegenwoordigers in geval van collectief ontslag. Ook de Richtlijn Collectief ontslag laat het aan de lidstaten om de bevoegde werknemersvertegenwoordigers aan te wijzen.¹¹⁰xZie ook HvJ 16 juli 2009, C-12/08, ECLI:EU:C:2009:466 (Mono Car Styling). Ingevolge de WMCO zijn dit – anders dan bij de omzetting van Richtlijn 2002/14/EG in de WOR – de vakbonden.¹¹¹xIn Duitsland is dit bijvoorbeeld wel de ondernemingsraad (zie par. 4 Kündigungsschutzgesetz). Dit wil overigens niet zeggen dat de ondernemingsraad in Nederland geen rol heeft bij een collectief ontslag. Zie hierover I. Zaal, Wet melding collectief ontslag, in: L.G. Verburg (red.), Arbeidsrechtelijke aspecten van reorganisatie (MSR nr. 31), Deventer: Wolters Kluwer 2020, par. 3.5.5. De vakbonden die worden geraadpleegd, moeten voldoen aan de criteria van artikel 3 lid 3 WMCO, op grond waarvan als een belanghebbende werknemersvereniging wordt beschouwd: een vereniging van werknemers die minstens twee in de onderneming werkzame personen onder haar leden telt, krachtens haar statuten ten doel heeft de belangen van haar leden als werknemers te behartigen, als zodanig in de betrokken onderneming of bedrijfstak werkzaam is, en ten minste twee jaar in het bezit is van rechtspersoonlijkheid en als zodanig aan de werkgever bekend is. Met dit soort criteria kan de Nederlandse wetgever ervoor zorgen dat (ook) bepaalde werknemersorganisaties met procesbevoegdheid de informatierechten toekomen, zonder dat de werkgever te koop hoeft te lopen met zijn bedrijfsgevoelige informatie. Vakbonden en andere werknemersorganisaties die niet aan de criteria voldoen, zoals Bureau Clara Wichmann, behouden de huidige mogelijkheden om inzicht te krijgen in het algoritme, zoals het inschakelen van de achterban en het indienen van een klacht bij het CRM. Het onderwerp biedt voorts een aanzet voor nadere samenwerking tussen ondernemingsraden, vakbonden en andere werknemersorganisaties die opkomen tegen discriminatie.

  De vergelijking met de WMCO is nog om een andere reden interessant. Ook in een cao kan een verplichting tot raadpleging bij een collectief ontslag zijn opgenomen, ondanks dat de betreffende vakbond niet aan de vereisten van de WMCO voldoet.¹¹²xZaal 2020, par. 3.5.4. In gelijke zin erkennen zowel de AVG als de AI-Verordening en de Richtlijn Platformwerk het belang van collectieve overeenkomsten bij het reguleren van algoritmen op het werk door te bepalen dat daarin nadere regels kunnen worden gesteld.¹¹³xArtikel 88 AVG; artikel 2 lid 11 AI-Verordening; artikel 26 lid 2 Richtlijn Platformwerk. Zie voorts Kaderovereenkomst van de Europese sociale partners inzake digitalisering, juni 2020, te raadplegen via www.stvda.nl/-/media/stvda/downloads/publicaties/2020/kaderovereenkomst-digitialisering.pdf. Dit betekent dat in collectieve overeenkomsten (onder meer) specifieke informatierechten kunnen worden overeengekomen.¹¹⁴xZie ook E. Dagnino & I. Armaroli, A Seat at the Table: Negotiating Data Processing in the Workplace: A National Case Study and Comparative Insights, Comparative Labor Law & Policy Journal 2018, p. 173-196; TUC, Dignity at work and the AI revolution: a TUC manifesto, Londen 2021, te raadplegen via www.tuc.org.uk/sites/default/files/2021-03/The_AI_Revolution_20121_Manifesto_AW. Zo bepaalt een akkoord uit 2021 tussen de Spaanse overheid en sociale partners dat digitale platforms algoritmen en andere soorten AI met impact op het werk ter beschikking moeten stellen van vakbonden.¹¹⁵xA. Aranguiz, Spain’s platform workers win algorithm transparency, www.socialeurope.eu/spains-platform-workers-winalgorithm-transparency. In Nederland zijn mij dergelijke cao-afspraken niet bekend. Ik sluit echter niet uit dat cao-afspraken over het gebruik van algoritmen op het werk ook in Nederland zullen toenemen, en dat vakbonden op deze manier meer mogelijkheden zullen krijgen om in rechte op te komen tegen algoritmische discriminatie.

  Tot slot is van belang dat artikel 77 AI-Verordening instanties die belast zijn met de handhaving van grondrechten, zoals de rechter en het CRM, de bevoegdheid toekent om informatie bij de werkgever op te vragen. De Richtlijn Platformwerk voorziet in iets soortgelijks.¹¹⁶xZie artikel 21 lid 1 Richtlijn Platformwerk, dat behalve de rechter spreekt over ‘bevoegde instanties’ maar het aan de lidstaten laat om dit te definiëren. Dit kan ook een toezichthouder zoals het College zijn. Zoals gezegd, heeft het College deze bevoegdheid momenteel ook en – belangrijker – doet een dergelijke bevoegdheid er niet aan af dat een gebrek aan transparantie onvoldoende is om een vermoeden van discriminatie aan te nemen. Ik sluit echter niet uit dat, nu het gaat om de handhaving van een wettelijk recht op informatie, de omstandigheid dat de werkgever weigert of er niet in slaagt om de gevraagde informatie te verschaffen sneller een reden is om een vermoeden van discriminatie aan te nemen. Dit zou bijvoorbeeld uitkomst kunnen bieden indien de werknemersorganisatie route 2 doorloopt, maar slechts één slachtoffer identificeert. In dat geval zou kunnen worden betoogd dat, hoewel er maar één slachtoffer is, de omstandigheid dat de werkgever geen gevolg geeft aan zijn wettelijke informatieplicht toch leidt tot een vermoeden van discriminatie. Zie ik dit goed, dan zijn de AI-Verordening en de Richtlijn Platform niet alleen relevant voor route 1, maar ook voor route 2.

• 6 Conclusie

  Algoritmische discriminatie is een van de grote uitdagingen van digitalisering. Collectieve actie is een veelbelovende route om de uitdaging aan te gaan. Hoewel het aantonen van algoritmische discriminatie lastig blijft, biedt het recht werknemersorganisaties verschillende instrumenten om de slagingskans te vergroten. Het recht op informatie over de werking van het algoritme is hiervan een belangrijk onderdeel. Dit recht volgt niet uit de gelijkebehandelingswetgeving zelf, maar is neergelegd in de AVG en, in verdergaande mate, de AI-Verordening en de Richtlijn Platformwerk. Deze wetgeving is deels, maar niet hoofdzakelijk gericht op het tegengaan en het bieden van rechtsmiddelen tegen algoritmische discriminatie. Een gebrek aan synergie met het gelijkebehandelingsrecht ligt daarom op de loer.¹¹⁷xTot een soortgelijke conclusie komt Adams-Prassl: J. Adams-Prassl, Regulating algorithms at work: Lessons for a ‘European approach to artificial intelligence’, European Labour Law Journal 2022, p. 30-50. Om deze reden dient de Nederlandse wetgever bij de omzetting van de informatierechten uit de AI-Verordening en de Richtlijn Platformwerk mijns inziens rekening te houden met de procesbevoegdheid, meer specifiek de mogelijkheid om een collectieve actie te starten in de zin van artikel 3:305a BW. Ook cao’s kunnen hierin een belangrijke rol vervullen. Want waarom moeilijk doen, als het samen kan.¹¹⁸xwww.loesje.nl/posters/nl9110_5.

Noten

• 1 Verordening (EU) 2024/1689.

• 2 Richtlijn (EU) 2024/2831.

• 3 Zie o.a. artikel 26 lid 7 AI-Verordening en artikel 13 Richtlijn Platformwerk. Deze bepalingen komen aan bod in paragraaf 5.

• 4 Zie over de kernissues o.a. OESO, Using AI in the workplace. Opportunities, risks and policy responses, OECD Artificial Intelligence Papers, maart 2024.

• 5 College voor de Rechten van de Mens, Als computers je CV beoordelen, wie beoordeelt dan de computers? Algoritmes en discriminatie bij werving en selectie, Utrecht: College voor de Rechten van de Mens 2020, p. 4.

• 6 In de internationale literatuur is dit al eerder opgemerkt. Zie o.a. J. Hakkarainen, Naming something collective does not make it so: algorithmic discrimination and access to justice, Internet Policy Review 2021/4, p. 1-24; G. Gaudio, Litigating the Algorithmic Boss in the EU: A (Legally) Feasible and (Strategically) Attractive Option for Trade Unions?, International Journal of Comparative Labour Law and Industrial Relations 2024, p. 91-130.

• 7 Hierover is al veel geschreven. Zie wat betreft Nederland o.a. M. Jovović, Ter Visie - Algoritmische discriminatie, Tijdschrift voor Arbeid & Onderneming 2018, p. 141-145; M. Kullmann, Platformwerk, besluitvorming door algoritmen en bewijs van algoritmische discriminatie, Ondernemingsrecht 2019/8; S. Burri & S. Heeger-Hertter, Discriminatie in de platformeconomie juridisch bestrijden: geen eenvoudige zaak, Ars Aequi 2018, p. 1000-1008; M. Vetzo & J. Gerards, Algoritme-gedreven technologieën en grondrechten, Computerrecht 2019/3; College voor de Rechten van de Mens 2020; W. Roozendaal & M. Jovović, Algoritmes en personeelsselectie, in: M. Houwerzijl, S. Montebovi & N. Zekić (red.), Platformisering, algoritmisering en sociale bescherming (MSR nr. 78), Deventer: Wolters Kluwer 2021, par. 8.

• 8 Richtlijn 2006/54/EG inzake de toepassing van het beginsel van gelijke kansen en gelijke behandeling van mannen en vrouwen in arbeid en beroep, geïmplementeerd in de Wet gelijke behandeling van mannen en vrouwen (WGB) en artikel 7:646-649 BW.

• 9 Richtlijn 2000/43/EG inzake het beginsel van gelijke behandeling van personen ongeacht ras of etnische afstamming, geïmplementeerd in de Algemene wet gelijke behandeling (AWGB) en artikel 7:646-649 BW.

• 10 Richtlijn 2000/78/EG inzake een algemeen kader voor gelijke behandeling in arbeid en beroep, geïmplementeerd in de AWGB, de Wet gelijke behandeling op grond van handicap of chronische ziekte, de Wet gelijke behandeling op grond van leeftijd bij de arbeid en artikel 7:646-649 BW. Zie over de vraag of de klassieke grondencatalogus uitbreiding behoeft o.a. S. Ganty & J.C. Benito Sanchez, Expanding the List of Protected Grounds within Anti-Discrimination Law in the EU, Brussel: Equinet 2021.

• 11 Vergelijk HvJ EG 8 november 1990, C-177/88, ECLI:EU:C:1990:383 (Dekker) (werkgever die een zwangere werkneemster niet aanneemt omdat verzekeraar geen ziektegeld uitkeert overtreedt het discriminatieverbod); HvJ EU 25 april 2013, C-81/12, ECLI:EU:C:2013:275 (Accept) (homofobe uitspraken van een medewerker leiden tot het vermoeden dat de afwijzing door een werkgever van een homoseksuele sollicitant discriminatoir is). Zie ook mijn dissertatie Werkgeverschap in concernverband. Een onderzoek naar het concern in het arbeidsrecht en de verhouding tot de rechtseenheid (MSR nr. 82), Deventer: Wolters Kluwer 2023, par. 2.5.2 en 6.3.1.2.

• 12 Wat betreft het Europese recht geldt dit in ieder geval voor de gronden ras of etnische afstamming en geslacht, aangezien Richtlijn 2000/43/EG een expliciete verwijzing naar het aanbieden van goederen en diensten bevat en een andere richtlijn, Richtlijn 2004/113/EG, het beginsel van gelijke behandeling m/v bij het aanbod van goederen en diensten regelt. Voor de overige gronden, die zich niet expliciet uitstrekken tot het aanbieden van goederen en diensten, vereist het Hof dat zelfstandigen een ‘reële activiteit’ verrichten in het kader van een rechtsbetrekking met ‘een zekere stabiliteit’ (HvJ EU 12 januari 2023, C-356/21, ECLI:EU:C:2023:9 (JK/TP), met (kritische) noot van mijn hand in TRA 2023/114). Het Nederlandse gelijkebehandelingsrecht hanteert een ruimere benadering en verbiedt, in het kader van arbeid, discriminatie van werknemers, zelfstandigen die onder enige vorm van gezag arbeid verrichten en ‘echte’ zelfstandigen (vrije beroepers).

• 13 Jovović 2018, p. 141; J. Kloostra, De positie van de werker bij platformwerk (O&R nr. 151) (diss. Nijmegen), Deventer: Wolters Kluwer 2024, p. 34-40.

• 14 Zoals het zijn van allochtoon/immigrant, dat in de zaak Feryn (HvJ EG 10 juli 2008, C-54/07, ECLI:EU:C:2008:397) werd gelijkgesteld aan ras of etnische afstamming. Zie ook J. Gerards & R. Xenidis, Algorithmic Discrimination in Europe. Challenges and Opportunities for Gender Equality and Non-discrimination Law, Brussel: Europese Commissie 2020, p. 64; Gaudio 2024, p. 109. Dit betreft uitzonderingen: in principe lijkt het Hof voor directe discriminatie te eisen dat de variabele expliciet gelinkt is aan de beschermde grond. Een treffend voorbeeld is HvJ EG 7 december 2000, C-79/99, ECLI:EU:C:2000:676 (Schnorbus) (voorkeur voor kandidaten die een dienstplicht voor mannen hebben vervuld is geen directe discriminatie op grond van geslacht); C. Barnard, EU Employment Law, Oxford: OUP 2012, p. 354.

• 15 P. Hacker, Teaching Fairness to Artificial Intelligence: Existing and Novel Strategies Against Algorithmic Discrimination Under EU Law, Common Market Law Review 2018, p. 1153; Roozendaal & Jovović 2021, par. 8.3.4.

• 16 Dit kan uiteraard wel, bijvoorbeeld indien een waarschijnlijkheidswaarde die voortvloeit uit een algoritme statistisch hoger is voor mannen dan voor vrouwen. Zie over dergelijke ‘bias in het algoritme’ (in tegenstelling tot ‘bias in de data’) bijvoorbeeld Hacker 2018, p. 1146-1150; M.J. Vetzo, J.H. Gerards & R. Nehmelman, Algoritmes en grondrechten, Den Haag: Boom juridisch 2018, p. 142-145. Ook in geval van bias in het algoritme dient men vervolgens – in het kader van de objectieve rechtvaardiging – te kijken naar de achterliggende variabelen om te achterhalen wat de werkelijke reden is voor het onderscheid.

• 17 Zie ook Hacker 2018, p. 1153; Gaudio 2024, p. 109-110; CRM, Advies aan Dazure B.V. over premiedifferentiatie op basis van postcode bij de Finvita overlijdensrisicoverzekering, 28 januari 2014, https://publicaties.mensenrechten.nl/publicatie/29c613ac-efab-4d2a-a26c-fe1cb2556407 (berekenen van verzekeringspremie op basis van verschillende gegevens, waaronder postcode, wat statistisch correleert met etniciteit, vormt indirecte discriminatie op grond van etniciteit). Zie voor een betoog om van deze benadering af te stappen en alleen te kijken naar het algoritme als geheel Jovović 2018, p. 143.

• 18 Bijvoorbeeld HvJ EU 18 oktober 2017, C-409/16, ECLI:EU:C:2017:767 (Kalliri). Zie nader P.C. Vas Nunes, Gelijke behandeling in arbeid, Den Haag: Boom juridisch 2018, p. 100-104. Ook de vraag welke groepen moeten worden vergeleken kent vaak geen duidelijk antwoord. Zie hierover o.a. Vas Nunes 2018, p. 227-252; G. Thüsing, par. 3 AGG, in: F.J. Säcker e.a. (red.), Münchener Kommentar zum Bürgerlichen Gesetzbuch, München: C.H. Beck 2021, randnummers 35-38; M. Bell & A. Numhauser-Henning, Equal Treatment, in: T. Jaspers, F. Pennings & S. Peters (red.), European Labour Law, Mortsel: Intersentia 2024, p. 279-284.

• 19 Bijvoorbeeld Hacker 2018, p. 1153; Thüsing 2021, randnummer 31. De Commissie Gelijke Behandeling (de voorganger van het College voor de Rechten van de Mens) ging uit van significante benadeling bij een factor van 1,5 en hoger. Onduidelijk is of het College dezelfde methode hanteert; Vas Nunes 2018, p. 103.

• 20 Zie bijvoorbeeld ook Jovović 2018, p. 144; Roozendaal & Jovović 2021, par. 8.3.3.

• 21 Artikel 8 lid 1 Richtlijn 2000/43/EG; artikel 10 lid 1 Richtlijn 2000/78/EG; artikel 19 lid 1 Richtlijn 2006/54/EG.

• 22 HvJ EU 21 juli 2011, C-104/10, ECLI:EU:C:2011:506 (Kelly); HvJ EU 19 april 2012, C-415/10, ECLI:EU:C:2012:217 (Meister).

• 23 Verordening (EU) 2016/679.

• 24 Zie o.a. artikel 5 lid 1 onder a (verwerking van persoonsgegevens moet rechtmatig en behoorlijk zijn), artikel 9 (de verwerking van bijzondere persoonsgegevens, waaronder gegevens over etniciteit, religie en seksuele voorkeur, is in principe verboden) en artikel 22 (het gebruik van volledig geautomatiseerde besluitvorming is in principe verboden) AVG. Zie over deze bepalingen en hun betekenis voor algoritmische discriminatie o.a. Hacker 2018, p. 1170-1183; A. Aloisi, Regulating Algorithmic Management at Work in the European Union: Data Protection, Non-discrimination and Collective Rights, International Journal of Comparative Labour Law and Industrial Relations 2024, p. 48-55.

• 25 Artikel 15 AVG. Op grond van artikel 13-14 AVG hebben zij ook vooraf recht op deze informatie. Voor gelijke beloning m/v vloeit een soortgelijke verplichting voort uit de Richtlijn Loontransparantie (Richtlijn (EU) 2023/970), die vereist dat werkgevers werknemers gemakkelijk toegang verschaffen tot de criteria (die objectief moeten zijn) die worden gebruikt om de beloning te bepalen (artikel 6) en werknemers(organisaties) een passief informatierecht toekent (artikel 7). Gezien de specificiteit van gelijke beloning m/v en de afwijkende bewijslast (het aanwijzen van een maatman die meer verdient volstaat om een vermoeden van discriminatie aan te tonen; zie artikelen 7 en 9 WGB en bijvoorbeeld Kullmann 2019), laat ik deze richtlijn verder buiten beschouwing.

• 26 Idem Hacker 2018, p. 1173-1174; Aloisi 2024, p. 60.

• 27 Artikel 15 lid 1 onder h AVG.

• 28 Groep Gegevensbescherming artikel 29 (WP29), Richtsnoeren inzake geautomatiseerde individuele besluitvorming en profilering voor de toepassing van Verordening (EU) 2016/679, vastgesteld op 3 oktober 2017, zoals laatstelijk herzien en vastgesteld op 6 februari 2018, te raadplegen via https://ec.europa.eu/newsroom/article29/items/612053, p. 30 en 32-33; Hof Amsterdam 4 april 2023, ECLI:NL:GHAMS:2023:793 en ECLI:NL:GHAMS:2023:796 (Uber); Hof Amsterdam 4 april 2023, ECLI:NL:GHAMS:2023:804 (Ola).

• 29 Artikel 22 lid 1 AVG.

• 30 HvJ EU 7 december 2023, C-634/21, ECLI:EU:C:2023:957 (SCHUFA), r.o. 44-46 en 60-62. Dat de vervolgactie door een mens wordt uitgevoerd, staat dus niet in de weg aan de tweede voorwaarde (uitsluitend op geautomatiseerde verwerking gebaseerd), aangezien de voorbereidende handeling het ‘besluit’ is.

• 31 Hof Amsterdam 4 april 2023, ECLI:NL:GHAMS:2023:804 (Ola), r.o. 3.43. Hetzelfde gold voor het ‘earning profile’ en de toedeling van ritten door het algoritme van Ola, alsmede voor de deactiveringsbesluiten, het ‘batched matching systeem’, het ‘upfront pricing systeem’ en de vaststelling van de gemiddelde beoordelingen door het algoritme van Uber; Hof Amsterdam 4 april 2023, ECLI:NL:GHAMS:2023:793 en ECLI:NL:GHAMS:2023:796 (Uber).

• 32 Men spreekt ook wel van een ‘outcome’ of ‘doelvariabele’; bijvoorbeeld Vetzo, Gerards & Nehmelman 2018, p. 144.

• 33 Preambule 71 AVG; WP29 2018, p. 26; Hof Amsterdam 4 april 2023, ECLI:NL:GHAMS:2023:793 (Uber I); Hof Amsterdam 4 april 2023, ECLI:NL:GHAMS:2023:796 (Uber II); N.W. Groenhart, annotatie bij Rechtbank Amsterdam 11 maart 2021, ECLI:NL:RBAMS:2021:1018, JBP 2021/71.

• 34 Zie ook o.a. S.B. Lahuerta, Enforcing EU equality law through collective redress: Lagging behind?, Common Market Law Review 2018, p. 783-818; Gaudio 2024.

• 35 HvJ EG 10 juli 2008, C-54/07, ECLI:EU:C:2008:397 (Feryn); HvJ EU 23 april 2020, C-507/18, ECLI:EU:C:2020:289 (Associazone).

• 36 Indien het statistische verschil vaststaat, kan de werkgever zich (enkel) nog redden door een objectieve rechtvaardiging aan te tonen; bijvoorbeeld HvJ EG 10 maart 2005, C-196/02, ECLI:EU:C:2005:141 (Nikoloudi).

• 37 Naar Italiaans recht omvat de beschermde grond ‘(godsdienst of) overtuiging’ ook vakbondslidmaatschap.

• 38 Tribunale di Bologna 31 december 2020, te raadplegen via www.bollettinoadapt.it/wp-content/uploads/2021/01/Ordinanza-Bologna.pdf.

• 39 Zie ook I. Purificato, Behind the scenes of Deliveroo’s algorithm: the discriminatory effect of Frank’s blindness, Italian Labour Law e-Journal 2021/1, p. 184; V. Pietrogiovanni, Deliveroo and Riders’ Strikes: Discriminations in the Age of Algorithms, International Labor Rights Case Law 2021, p. 320; Gaudio 2024, p. 114.

• 40 H.J.W. Alt, Stelplicht en bewijslast in het nieuwe arbeidsrecht (MSR nr. 78), Deventer: Wolters Kluwer 2017, par. 7.6; Vas Nunes 2018, p. 146. Zie over het onderscheid tussen tegenbewijs en tegendeelbewijs voorts D.M.A. Bij de Vaate, De werking van het rechtsvermoeden van een arbeidsovereenkomst nader bezien, TRA 2023/29.

• 41 Zie ook en nader Jovović 2018, p. 144-145; Hacker 2018, p. 1160-1170; Roozendaal & Jovović 2021, par. 8.3.5.

• 42 R.J. de Jager, De Europese Artificiële Intelligentie-Verordening en algoritmen op het werk: voldoende future-proof?, TRA 2024/45, p. 5.

• 43 Zo speelde in de zaak SCHUFA mee dat de handelwijze van de bank ‘hoofdzakelijk’ werd bepaald door de waarschijnlijkheidswaarde (r.o. 48).

• 44 In dat geval is echter verdedigbaar dat niet (de beslissing van) het algoritme, maar (alleen) de eventuele vervolgactie van de werkgever discriminatoir is, waardoor de bewijskwestie logischerwijs een andere is. In die zin bestaat er een zekere harmonie tussen de AVG en de gelijkebehandelingswetgeving. Vergelijk P. Hacker, A legal framework for AI training data - from first principles to the Artificial Intelligence Act, Law, Innovation and Technology 2021, p. 271-274.

• 45 Zie bijvoorbeeld Hacker 2018, p. 1153; Jovović 2018, p. 144; L. Grozdanovski, In search of effectiveness and fairness in proving algorithmic discrimination in EU law, Common Market Law Review 2021, p. 99-136.

• 46 Bijvoorbeeld Parlementaire onderzoekscommissie effectiviteit antidiscriminatiewetgeving, Gelijk recht doen, Een parlementair onderzoek naar de mogelijkheden van de wetgever om discriminatie tegen te gaan, juni 2022, te raadplegen via www.eerstekamer.nl/overig/20220614/hoofdrapport_gelijk_recht_doen_een/meta, p. 55.

• 47 Vergelijk Aloisi 2024, p. 61.

• 48 Zo ook Vas Nunes 2018, p. 143-146; Roozendaal & Jovović 2021, par. 8.3.3. In uitzonderingsgevallen kan dit anders zijn, zoals in CRM 24 augustus 2023, oordeelnummer 2023-92 (geautomatiseerde afwijzing terwijl sollicitant alleen naam en leeftijd heeft doorgegeven leidt tot vermoeden van discriminatie, al speelde mee dat de vacature niet was vervuld).

• 49 HvJ EG 17 oktober 1989, C-109/88, ECLI:EU:C:1989:383 (Danfoss).

• 50 Dan wel een slachtoffer en iemand buiten de beschermde groep die niet is benadeeld, zoals een vrouw die is afgewezen voor een sollicitatie en een man die wel is aangenomen.

• 51 Vergelijk Hof Amsterdam 7 oktober 2014, ECLI:NL:GHAMS:2014:4132 (onduidelijke selectiecriteria gecombineerd met een bestaande achterstand in de sector leiden tot een vermoeden van discriminatie). Bij het belopen van deze route lijkt het niet zoveel uit te maken of de rechtzoekende zich op het standpunt stelt dat sprake is van directe of indirecte discriminatie. De bewijslastverlichting houdt in dat de rechtzoekende feiten aantoont die directe of indirecte discriminatie kunnen doen vermoeden. Ook het Hof van Justitie heeft wat de bewijslast betreft tot op heden geen onderscheid gemaakt tussen directe en indirecte discriminatie; zie ook Vas Nunes 2018, p. 133.

• 52 Kamerstukken II 1999/2000, 27026, nr. 5, p. 11; Vas Nunes 2018, p. 146-147.

• 53 In gelijke zin Jovović 2018, p. 144-145.

• 54 Artikel 3:60 BW. Vergelijk W. van Eekhout, Opties voor collectief procederen – het bundelen van vorderingen, Beslag, Executie & Rechtsvordering in de praktijk 2018/153.

• 55 Zie ook Europees Parlement 18 mei 2000, A5-0136/2000, p. 21-22; C.I. Nagy, The European Collective Redress Debate After the European Commission’s Recommendation. One Step Forward, Two Steps Back?, Maastricht Journal of European and Comparative Law 2015, p. 534-535; Gaudio 2024, p. 102.

• 56 Zie Lahuerta 2018, p. 802, met nadere verwijzingen.

• 57 Artikel 7 lid 2 Richtlijn 2000/43/EG; artikel 9 lid 2 Richtlijn 2000/78/EG; artikel 17 lid 2 Richtlijn 2006/54/EG.

• 58 HvJ EG 10 juli 2008, C-54/07, ECLI:EU:C:2008:397 (Feryn); HvJ EU 23 april 2020, C-507/18, ECLI:EU:C:2020:289 (Associazone). Zie hierover kritisch Lahuerta 2018; F. Dorssemont, Collective Actors Enforcing EU Labour Law, in: Z. Rasnača e.a. (red.), Effective Enforcement of EU Labour Law, Londen: Bloomsbury Publishing 2022, p. 375.

• 59 Redengevend is het minimumkarakter van de Europese gelijkebehandelingsrichtlijnen. De meeste lidstaten voorzien in deze mogelijkheid; zie I. Chopin & C. Germaine, A comparative analysis of non-discrimination law in Europe 2022, Brussel: Europese Commissie 2023, p. 87-97. Zie over de wijze waarop van deze mogelijkheid gebruik wordt gemaakt in de platformeconomie o.a. M.T. Carinci & F. Dorssemont (red.), Platform Work in Europe. Towards Harmonisation?, Antwerpen: Intersentia 2021; C. Stylogiannis, Collective Labour Rights for Self-Employed Workers, Deventer: Wolters Kluwer 2023.

• 60 Op grond van artikel 10 lid 2 onder e Wet College voor de Rechten van de Mens kan een verzoek aan het College worden ingediend door een vereniging met volledige rechtsbevoegdheid of stichting, die in overeenstemming met haar statuten de belangen behartigt van diegenen in wier bescherming de AWGB, de WGB of artikel 7:646 BW beoogt te voorzien. Hetzelfde recht komt blijkens artikel 10 lid 2 onder d toe aan de ondernemingsraad, waarover par. 4.

• 61 Kamerstukken II 2002/03, 28770, nr. 3, p. 16-17 en 20.

• 62 Artikel 3:305a lid 2 onderdelen a tot en met e en lid 5 BW. In een collectieve actie wordt per definitie opgekomen voor de belangen van alle door een gebeurtenis gedupeerde benadeelden. Artikel 3:305a BW biedt daarom niet de mogelijkheid alleen op te komen voor bijvoorbeeld de eigen leden; Kamerstukken II 2012/13, 33126, nr. 7, p. 10; Van Eekhout 2018, p. 17. Naar het lijkt anders oordeelde Rb. Den Haag 22 november 2000, ECLI:NL:RBSGR:2000:AA8534. In deze enige mij bekende artikel 3:305a-discriminatiezaak leek FNV alleen op te komen voor haar eigen leden, maar werd zij niettemin ontvankelijk verklaard.

• 63 Algemeenbelangacties zijn gericht op het behartigen van ideële belangen die niet of niet zonder meer kunnen worden teruggebracht tot een bepaald aantal individuele personen; Kamerstukken II 1991/92, 22486, nr. 3, p. 22; R.J.B. Schutgens & J.J.J. Sillen, Samenloop van ideële en collectieve belangenbehartiging: de ontvankelijkheidsbeslissing in FNV & CNV Temper, NTBR 2023/26, p. 257.

• 64 Zie in deze zin S. Chubrikj & N. Chalovska-Dimovska, Use of actio popularis in Cases of Discrimination, Skopje: Organization for Security and Co-operation in Europe 2016, p. 6. Vergelijk tevens Rb. Amsterdam 13 juli 2022, ECLI:NL:RBAMS:2022:4035 (vordering van CNV en FNV om te verklaren dat Temper-werkers uitzendkracht of werknemer zijn heeft mede een ideëel doel) en de rechtspraak genoemd in D.M.A. Bij de Vaate, C. van den Bor & W.H.A.C.M. Bouwens, Handhaving door de vakorganisaties, in: A.R. Houweling & L.C.J. Sprengers (red.), Transitie en arbeid. Boek ter gelegenheid van het 75-jarig bestaan van de VvA, Den Haag: Boom juridisch 2022, p. 132.

• 65 Kamerstukken II 2018/19, 34608, nr. 14; Bij de Vaate, Van den Bor & Bouwens 2022, p. 132; Rb. Amsterdam 13 juli 2022, ECLI:NL:RBAMS:2022:4035 (Temper), r.o. 4.10. Aangezien de aard en insteek van de vordering die wordt ingediend bij een algemeenbelangactie anders kunnen zijn dan bij een groepsactie (het betreft immers andere belangen en een andere achterban), kan de kwalificatie als algemeenbelangactie wel indirect invloed uitoefenen op de invulling van representativiteit en gelijksoortigheid. Hierna zal echter blijken dat de discriminatievorderingen die ik op het oog heb vrij concreet zijn en dus niet verschillen per type actie.

• 66 Artikel 3:305a lid 6 BW.

• 67 Zoals gezegd, dwingt het Europese gelijkebehandelingsrecht niet tot handhaving indien er geen slachtoffer is. Wel moet de sanctie – ook al dwingt het Europese recht niet tot handhaving – proportioneel zijn, maar dit impliceert geen recht op schadevergoeding; HvJ EU 23 april 2020, C-507/18, ECLI:EU:C:2020:289 (Associazone). Een andere optie is dat de werknemersorganisatie terzijdestelling of aanpassing van het algoritme vordert om discriminatie in de toekomst te voorkomen. Deze route is met name denkbaar indien er geen identificeerbaar slachtoffer is.

• 68 Kamerstukken II 2011/12, 33126, nr. 3, p. 5; Kamerstukken II 2016/17, 34608, nr. 3, p. 18; Kamerstukken II 2016/17, 34608, nr. 6, p. 11; Kamerstukken II 2018/19, 34608, nr. 14; Bij de Vaate, Van den Bor & Bouwens 2022, p. 131-132.

• 69 C. van den Bor & D.M.A. Bij de Vaate, Collectief procederen door de vakbond, TRA 2020/12; D.M.A. Bij de Vaate & S. Özkul, Collectieve handhaving door de vakbonden: mogelijkheden en uitdagingen, TRA 2024/47.

• 70 Vergelijk (doch gewezen onder het oude recht, toen representativiteit nog geen harde ontvankelijkheidsvoorwaarde was) HR 9 april 2010, ECLI:NL:HR:2010:BK4549 (Bureau Clara Wichmann/SGP).

• 71 HR 26 februari 2010, ECLI:NL:HR:2010:BK5756 (Stichting Baas in eigen huis/Plazacasa).

• 72 Bijvoorbeeld Rb. Amsterdam 15 januari 2019, ECLI:NL:RBAMS:2019:198 (vordering van FNV om te verklaren dat tussen Deliveroo en haar bezorgers arbeidsovereenkomsten bestaan is ontvankelijk, ondanks dat in individuele gevallen sprake kan zijn van een overeenkomst van opdracht); Bij de Vaate & Özkul 2024, p. 19.

• 73 Van den Bor & Bij de Vaate 2020, p. 5.

• 74 Artikel 1018k lid 1 Rv. In discriminatiezaken ligt het gebruikmaken van deze mogelijkheid niet voor de hand.

• 75 Van den Bor & Bij de Vaate 2020, p. 7; Bij de Vaate & Özkul 2024, p. 18-19. Onduidelijk is of de rechtspraak deze opvatting deelt. Vergelijk bijvoorbeeld Rb. Den Haag 8 maart 2023, ECLI:NL:RBDHA:2023:2686 (FNV en CNV zijn niet-ontvankelijk in de vordering tegen de staat tot vergoeding van schade voor zorgpersoneel met post-Covid vanwege grote verschillen tussen zorgmedewerkers) en Rb. Amsterdam 13 juli 2022, ECLI:NL:RBAMS:2022:4035 (vordering van CNV en FNV om te verklaren dat Temper-werkers uitzendkracht of werknemer zijn is ontvankelijk ondanks mogelijke verschillen tussen Temper-werkers).

• 76 Vergelijk Rb. Den Haag 22 november 2000, ECLI:NL:RBSGR:2000:AA8534 (FNV stelt collectieve actie in voor gelijke beloning m/v binnen een onderneming); https://clara-wichmann.nl/nieuws/discriminerende-algoritmes-bestrijden-via-het-recht/ (Bureau Clara Wichmann en Global Witness dienen klacht in tegen Meta wegens discriminatie wegens geslacht bij plaatsing van vacatures door het algoritme); CRM 17 oktober 2023, oordeelnummer 2023-111 (vermoeden van discriminatie nu tentamensoftware gezicht van studente niet herkende vanwege donkere huidskleur).

• 77 Het gelijkebehandelingsrecht (en hetzelfde geldt voor de AVG) biedt daarentegen geen ruimte voor een meer algemeen geformuleerde vordering, die inhoudt dat de werkgever elke mogelijke vorm van discriminatie die optreedt als gevolg van de door hem gehanteerde algoritmen opheft. De bewijslastverdeling vereist immers dat rechtzoekenden één of meerdere specifieke vormen van discriminatie, althans een vermoeden daarvan, aantoont.

• 78 Vergelijk CRM 24 augustus 2023, oordeelnummer 2023-92 (geautomatiseerde afwijzing terwijl sollicitant alleen naam en leeftijd heeft doorgegeven leidt tot vermoeden van discriminatie op grond van zowel etniciteit als leeftijd).

• 79 A.W. Jongbloed, GS Vermogensrecht, artikel 3:305a BW, aant. 9.4 (online, bijgewerkt 3 juli 2023). Ingevolge artikel 1018e lid 2 Rv moet dan ook per vordering nauw worden omschreven voor welke groep personen zij wordt ingesteld.

• 80 Het inzagerecht kan ook worden gebruikt om de ondoorzichtigheid van het algoritme aan te tonen, hetgeen zoals gezegd een rol speelt in route 2, maar ook zonder inzagerecht kan de werknemersorganisatie dit resultaat bereiken met een beroep op de arresten Kelly en Meister. Wel kan de aanwezigheid van een wettelijk recht op informatie ertoe leiden dat in route 2 sneller een vermoeden van discriminatie wordt aangenomen: zie hierna par. 5.

• 81 Artikel 80 lid 2 AVG. Zie hierover o.a. M. Gülcür, Collectieve acties wegens inbreuk op de Algemene verordening gegevensbescherming, Maandblad voor Vermogensrecht 2022, p. 289-299; T.O. van Hoorn, Wie durft na de TikTok-uitspraken nog massaschade te claimen bij een privacyschending?, Tijdschrift voor Internetrecht 2024/2, p. 42-49.

• 82 Artikel 1018c lid 3 Rv.

• 83 De rechter gaat tevens na in hoeverre de werkgever zijn informatieplicht (ex artikel 13-14 AVG) al is nagekomen. Verdedigbaar is overigens dat overleg met de achterban een noodzakelijke stap is om het informatierecht via een collectieve actie uit te oefenen. Ingevolge artikel 3:305a lid 3 BW moet de organisatie hebben geprobeerd om het gevorderde te bereiken door overleg met de wederpartij. De werkgever kan dit overleg vrij makkelijk pareren indien de organisatie niet weet en ook niet is nagegaan welke informatie de werkgever al heeft gegeven aan de werknemers.

• 84 Wel brengt dit meer risico mee voor de betrokken werknemers, die zich met naam en toenaam bekend moeten maken bij de werkgever.

• 85 Artikel 13 onder c-d Procesreglement College voor de Rechten van de Mens.

• 86 Zie artikelen 9 (verplicht systeem voor risicobeheer), 10 (kwaliteitseisen voor datasets), 11 (documentatieverplichting bias tests), 15 (transparantieverplichting) en 27 (grondrechtentoets) AI-Verordening.

• 87 Zie artikelen 7 (verdergaande beperkingen voor geautomatiseerde besluitvorming op de werkvloer, waaronder een ongeclausuleerd verbod op het verwerken van persoonsgegevens die betrekking hebben op een beschermde grond), 8 (verplichte impact assessment), 9 (transparantieverplichting) en 10 (verplicht menselijk toezicht) Richtlijn Platformwerk. Net als het discriminatieverbod gelden deze verplichtingen ongeacht de arbeidsrechtelijke status (werknemer of zelfstandige) van de platformwerker.

• 88 In gelijke zin, met betrekking tot de Richtlijn Platformwerk, M. Otto, A step towards digital self- & co-determination in the context of algorithmic management systems, Italian Labour Law e-Journal 2022/1, p. 60.

• 89 Deze bepaling kwam tot stand naar aanleiding van een amendement van het Europees Parlement (P9_TA(2023)0236, amendement 408). Op het oorspronkelijke gebrek aan een rol voor de werknemersvertegenwoordiging bestond veel kritiek; zie o.a. European Trade Union Congress, Commission’s proposal for a regulation on Artificial Intelligence fails to address the workplace dimension, https://etuclex.etuc.org/european-commission-proposal-regulation-artificial-intelligence; V. De Stefano & S. Taes, Algorithmic management and collective bargaining, Foresight Brief 2021/10, p. 10-11; V. Doellgast, Strengthening Social Regulation in the Digital Economy: Comparative Findings from the ICT Industry, Labour and Industry 2023/1, p. 9-10.

• 90 Preambule 57, artikel 6 lid 2 en bijlage III onder 4 AI-Verordening; Hacker 2021. Dit kan anders zijn, bijvoorbeeld indien het systeem is bedoeld om een beperkte procedurele taak uit te voeren of alleen een voorbereidende handeling uitvoert; Preambule 53 en artikel 6 lid 3 AI-Verordening; M. Kullmann, De rol van het EU sociaal acquis bij de Europese regulering van Artificiële Intelligentie, TAC 2022/2, p. 44-45; De Jager 2024, p. 4-5. Van dit laatste is mijns inziens geen sprake indien het algoritme een ‘besluit’ neemt zoals bedoeld in de AVG.

• 91 Artikel 86 AI-Verordening.

• 92 Artikel 8 Richtlijn Platformwerk jo. artikel 35 AVG.

• 93 Artikel 9 Richtlijn Platformwerk. Het betreft bijvoorbeeld informatie over alle beslissingen die worden ondersteund of genomen door het algoritme en de mogelijke gevolgen voor de werker (zoals ontslag) alsook de redenen daarvoor.

• 94 Artikel 10 Richtlijn Platformwerk.

• 95 Artikel 13 Richtlijn Platformwerk.

• 96 Daarnaast resteert het probleem dat, indien de werkgever zijn informatieplichten niet nakomt, werknemersorganisaties alleen via artikel 3:305a BW nakoming van de informatieplichten bij de rechter kunnen afdwingen. Zowel de AI-Verordening (die uitgaat van publiekrechtelijke handhaving) als de Richtlijn Platformwerk (die dezelfde handhavingssystematiek hanteert als het gelijkebehandelingsrecht en de AVG) biedt hun geen ander rechtsmiddel. Wel kan een werknemersorganisatie ingevolge artikel 85 AI-Verordening een klacht indienen bij de nationale toezichthouder.

• 97 Zie bijvoorbeeld Richtlijn 2002/14/EG van het Europees Parlement en de Raad van 11 maart 2002 tot vaststelling van een algemeen kader betreffende de informatie en de raadpleging van de werknemers in de Europese Gemeenschap, artikel 2 onder e; Richtlijn 98/59/EG van de Raad van 20 juli 1998 betreffende de aanpassing van de wetgevingen van de lidstaten inzake collectief ontslag, artikel 1 lid 1 onder b; Barnard 2012, p. 686-687; T. Jaspers & P. Lorber, Workers’ Participation in Business Matters, in: Jaspers, Pennings & Peters (red.) 2024, p. 534-537.

• 98 Zie Preambule 92 jo. artikel 26 lid 7 AI-Verordening; artikel 13 Richtlijn Platformwerk.

• 99 Voor de AI-Verordening gold oorspronkelijk hetzelfde, maar de verwijzing naar Richtlijn 2002/14/EG is later verplaatst naar de preambule. Het gevolg is dat het introduceren van een AI-systeem met een hoog risico op de werkvloer niet per definitie een informatie- en raadplegingsplicht zoals bedoeld in Richtlijn 2002/14/EG met zich brengt, maar dit per geval moet worden getoetst. In Nederland is hierin voorzien in de Wet op de ondernemingsraden (WOR): zie hierna.

• 100 Zo stelt De Jager (2024, p. 7) dat het informatierecht uit de AI-Verordening richting de ondernemingsraad zal gaan.

• 101 Zie voor een overzicht SEC(2008) 334 final, par. 3.2 onder e.

• 102 Gezien de ingewikkelde verhouding tussen ondernemingsraden en platformwerk geldt dit in het bijzonder voor de Richtlijn Platformwerk; zie A. Aloisi, S. Rainone & N. Countouris, An unfinished task? Matching the Platform Work Directive with the EU and international ‘social acquis’, ILO Working Paper 101, Genève: ILO 2023, p. 20-24; M. Veale, M. Silverman & R. Binns, Fortifying the algorithmic management provisions in the proposed Platform Work Directive, European Labour Law Journal 2023, p. 321-326. Zie voorts A. Aloisi & N. Potocka-Sionek, De-gigging the labour market? An analysis of the ‘algorithmic management’ provisions in the proposed Platform Work Directive, Italian Labour Law e-Journal 2022/1, p. 41, die stellen dat met ‘werknemersvertegenwoordiging’ primair vakbonden zijn bedoeld en dat het niet expliciet vermelden daarvan met name de bedoeling heeft de reikwijdte van de Richtlijn Platformwerk niet onnodig te beperken. In de totstandkomingsgeschiedenis lees ik deze bedoeling echter niet duidelijk terug.

• 103 Zie o.a. artikel 25 lid 1 onder k (invoeren of wijzigen van een belangrijke technologische voorziening), artikel 27 lid 1 onder e (aanstellings-, ontslag- of bevorderingsbeleid), lid k (verwerking en bescherming van persoonsgegevens) en lid l (voorzieningen inzake waarneming van of controle op aanwezigheid, gedrag of prestaties) WOR; S. Schermerhorn & S.R. Blankestijn, De rol van de ondernemingsraad bij de implementatie van de Algemene Verordening inzake Gegevensbescherming, ArbeidsRecht 2018/15; D.J.A. Vesters & C.P.C. Meyer-de Swaan, De medezeggenschapsaspecten van de AVG, TAO 2018, p. 65-72; R.E.M. Vink-Dijkstra & G.L. Wife, Europese maatregelen tegen beloningsdiscriminatie: een belangrijke rol voor de Nederlandse ondernemingsraad, TAP 2022/2; De Jager 2024, p. 7-8.

• 104 Artikel 10 lid 2 onder d Wet College voor de Rechten van de Mens.

• 105 HR 3 december 1993, ECLI:NL:HR:1993:ZC1163, NJ 1994/375.

• 106 Zie ook C.L.C. Reynaers, Het procesrecht van de ondernemingsraad op grond van artikel 28 WOR; waarheen, waarvoor?, ArbeidsRecht 2021/38, p. 34; Vink-Dijkstra & Wife 2022, p. 19-20.

• 107 Ik realiseer mij dat deze wil, in ieder geval waar het gaat om collectieve acties, op basis van het Hoofdlijnenakkoord van 16 mei 2024 hoogstwaarschijnlijk ontbreekt. Zie Hoofdlijnenakkoord HOOP, LEF EN TROTS 2024-2028, te raadplegen via www.tweedekamer.nl/downloads/document?id=2024D19455, p. 18.

• 108 Het toekennen van procesbevoegdheid voor collectieve acties aan ondernemingsraden ligt, gezien de dubbele doelstelling van ondernemingsraden en daarmee samenhangende spanningen op het gebied van bijvoorbeeld onafhankelijkheid en gelijkwaardigheid, niet voor de hand. Zie over deze spanningen bijvoorbeeld N. Jansen, Een juridisch onderzoek naar de representativiteit van vakbonden in het arbeidsvoorwaardenoverleg (MSR nr. 74) (diss. Amsterdam UvA), Deventer: Wolters Kluwer 2019, par. 8.3.2.

• 109 Zie over deze problematiek o.a. Kullmann 2019 en artikel 21 lid 2 Richtlijn Platformwerk.

• 110 Zie ook HvJ 16 juli 2009, C-12/08, ECLI:EU:C:2009:466 (Mono Car Styling).

• 111 In Duitsland is dit bijvoorbeeld wel de ondernemingsraad (zie par. 4 Kündigungsschutzgesetz). Dit wil overigens niet zeggen dat de ondernemingsraad in Nederland geen rol heeft bij een collectief ontslag. Zie hierover I. Zaal, Wet melding collectief ontslag, in: L.G. Verburg (red.), Arbeidsrechtelijke aspecten van reorganisatie (MSR nr. 31), Deventer: Wolters Kluwer 2020, par. 3.5.5.

• 112 Zaal 2020, par. 3.5.4.

• 113 Artikel 88 AVG; artikel 2 lid 11 AI-Verordening; artikel 26 lid 2 Richtlijn Platformwerk. Zie voorts Kaderovereenkomst van de Europese sociale partners inzake digitalisering, juni 2020, te raadplegen via www.stvda.nl/-/media/stvda/downloads/publicaties/2020/kaderovereenkomst-digitialisering.pdf.

• 114 Zie ook E. Dagnino & I. Armaroli, A Seat at the Table: Negotiating Data Processing in the Workplace: A National Case Study and Comparative Insights, Comparative Labor Law & Policy Journal 2018, p. 173-196; TUC, Dignity at work and the AI revolution: a TUC manifesto, Londen 2021, te raadplegen via www.tuc.org.uk/sites/default/files/2021-03/The_AI_Revolution_20121_Manifesto_AW.

• 115 A. Aranguiz, Spain’s platform workers win algorithm transparency, www.socialeurope.eu/spains-platform-workers-winalgorithm-transparency.

• 116 Zie artikel 21 lid 1 Richtlijn Platformwerk, dat behalve de rechter spreekt over ‘bevoegde instanties’ maar het aan de lidstaten laat om dit te definiëren. Dit kan ook een toezichthouder zoals het College zijn.

• 117 Tot een soortgelijke conclusie komt Adams-Prassl: J. Adams-Prassl, Regulating algorithms at work: Lessons for a ‘European approach to artificial intelligence’, European Labour Law Journal 2022, p. 30-50.

• 118 www.loesje.nl/posters/nl9110_5.