Platformisering, algoritmisering en sociale bescherming: Algoritmes en personeelsselectie
Recent kwam in de Wolters Kluwer reeks ‘Monografieën Sociaal Recht’ het boek ‘Platformisering, algoritmisering en sociale bescherming’ uit. Dit boek is op verzoek van Instituut GAK samengesteld door academici van de Universiteit Tilburg, onder leiding van Mijke Houwerzijl. Het boek, waaraan dertien auteurs een bijdrage leverden, betreft “sociaaljuridische vraagstukken die zich doen bij de (r)evolutie naar een andere wereld van werk”. Daarbij stonden centraal uitdagingen die gepaard gaan met technologisch aangedreven processen van platformisering en algoritmisering.
Als onderdeel van dit bredere onderzoek, hebben Willemijn Roozendaal (VU) en Marko Jovović (Stibbe) in hoofdstuk 8 (‘Algoritmes en personeelsselectie’) onderzoek gedaan naar de kansen en uitdagingen die het gebruik van ‘machine learning algoritmes’ (ML algoritmes) bij werving en personeelsselectie oplevert. Het onderzoek is echter ook breder en ziet bijvoorbeeld ook op het geval van werkplatformen die geautomatiseerd moeten kunnen bepalen aan welke platformwerker kiezen een klus zal worden aangeboden. Het onderzoek betreft de vraag met welke regels van gelijkebehandelingsrecht en privacyrecht een organisatie allemaal rekening mee moet houden bij het ontwerpen en inzetten van een selectieprocedure waarin machine learning algoritmes worden gebruikt.
Na een uitleg van de belangrijkste begrippen (wat verstaan we onder ‘machine learning algoritme’, hoe werkt de technologie op hoofdlijnen, wat zijn de belangrijkste concepten) bespreken Roozendaal en Jovović de vraag welke grenzen het recht op gelijke behandeling en het gegevensverwerkingsrecht stellen aan het gebruik van deze algoritmes. Vervolgens bespreken zij welke meerwaarde algoritmes zouden kunnen hebben, en welke maatregelen genomen zouden kunnen worden om die meerwaarde zo goed mogelijk te kunnen benutten.
Potentiële voordelen en kansen die ML algoritmes bieden, zijn onder andere dat: (i) de ruimte voor menselijke feilbaarheid en vooroordelen kan worden beperkt; (ii) het ontwerpen van artificieel intelligente systemen kan leiden tot meer gestructureerde besluitvorming en meer zorgvuldig ontworpen beoordelingskaders; (iii) het ontwerpen van artificieel intelligente systemen ertoe kan leiden dat doelstellingen en beleidskeuzes scherper worden geformuleerd en daarmee van tevoren nauwkeuriger worden onderzocht; (iv) de uitkomsten van de sollicitatieprocedure naar de aard van ML algoritmes kwantificeerbaar zijn en daarmee meer mogelijkheid biedt om het werving en selectiebeleid en de uitkomsten daarvan te analyseren; en (v) dat het ontwerpproces en de keuzes die daarin gemaakt worden gedocumenteerd kunnen worden, waardoor het werving en selectieproces toetsbare wordt.
Maatregelen die de auteurs voorstellen zijn onder andere: (a) meer samenwerking tussen datawetenschappers en juristen; (b) het privacyrecht in die zin aanpassen dat het mogelijk wordt om meer data te gebruiken om te beoordelen of een systeem niet discrimineert (de hiervoor meest relevante data zijn immers vaak bijzondere persoonsgegevens en dat werpt een drempel op door het hogere beschermingsniveau dat daarvoor geldt); en (c) meer duidelijkheid over wat ‘gelijk behandelen’ concreet inhoudt (men weet nu vooral wat ongelijk behandelen betekent).
- Klik hier voor de vrij toegankelijke online versie van het boek: M.S. Houwerzijl, S.H.M. Montebovi & N. Zekić (red.), Platformisering, algoritmisering en sociale bescherming. Sociaalrechtelijke uitdagingen in tijden van digitale transformatie (Monografieën Sociaal Recht nr. 78), Deventer: Wolters Kluwer 2021.
- Klik hier voor de fysieke editie van dit boek.
