Kamerdebat over digitalisering van de overheid: aandacht voor bescherming burger vereist

Vier moties aangenomen

De vier moties zijn de volgende, waarbij wij ons in deze blog richten op de laatste motie:

1. motie van de leden Van der Molen en Middendorp over een centraal meldpunt voor problemen met basisregistraties;
2. motie van het lid Middendorp over de site MijnOverheid.nl als platform voor digitaal contact tussen overheid en burgers;
3. motie van de leden Futselaar en Van Raak over laagdrempelige communicatiemogelijkheden bij elke overheidsinstantie;
4. motie van de leden Verhoeven en Van der Molen over een meldplicht voor ingrijpende algoritmes

Algoritmes voor geautomatiseerde besluitvorming

Laatstgenoemde motie staat in het teken van geautomatiseerde besluitvorming door de overheid. Besluitvorming vindt steeds meer digitaal plaats op basis van algoritmes. Bij zulke besluitvorming komt er geen mens meer aan te pas. Op het eerste gezicht klinkt dit wellicht aantrekkelijk uit een oogpunt van efficiëntie, maar er zijn ook nadelen aan verbonden. Zo vrezen de initiatiefnemers van de motie dat de inzet van algoritmes en de onderliggende databestanden het risico van ongelijke behandeling en uitsluiting met zich kan brengen. Ook menen zij dat de regering momenteel geen goed zicht heeft op de ontwikkelingen en inzet van alle algoritmes die de overheid gebruikt.

Op 31 augustus 2018 heeft de Afdeling advisering van de Raad van State (Afdeling advisering) een ongevraagd advies gegeven over de effecten van de digitalisering voor de rechtsstatelijke verhoudingen. In een eerder Stibbeblogbericht is al uitvoerig ingegaan op de (vergelijkbare) problemen die de Afdeling advisering constateert als besluiten via een geautomatiseerd systeem op basis van algoritmen worden genomen.

De motie over een meldplicht voor ingrijpende algoritmes bouwt hier op voort. De motie is ingediend tijdens het debat in de Tweede Kamer op 10 september 2019 dat werd gevoerd naar aanleiding van het ongevraagde advies van de Afdeling advisering. Alhoewel het Kamerdebat pas ruim een jaar na het uitbrengen van het advies van de Afdeling advisering heeft plaatsgevonden, heeft de politiek niet helemaal stilgezeten. In de tussentijd is er namelijk ook een motie aangenomen waarin de regering wordt verzocht om een voorstel uit te werken voor een zogenoemde 'algoritmewaakhond'. Het idee hierachter is dat er een autoriteit moet komen die controleert of algoritmes niet leiden tot discriminatie én of burgers nog voldoende uitleg krijgen over de besluiten die daarmee genomen zijn.

Het Kamerdebat en de motie 'meldplicht voor ingrijpende algoritmes'

In het Kamerdebat laten verschillende partijen zich opnieuw positief uit over het in het leven roepen van een 'algoritmewaakhond'. Ook de staatssecretaris van Binnenlandse zaken en Koninkrijksrelaties (BZK) erkent dat geautomatiseerde besluitvorming via algoritmes kan leiden tot foute toepassingen waarbij de burger de gedupeerde is. De motie 'meldplicht voor ingrijpende algoritmes' beoogt de regeling voor de 'algoritmewaakhond' te vergroten. De Kamer verzoekt de regering namelijk om in de plannen voor die 'algoritmewaakhond' ook een meldplicht op te nemen, zodat er meer zicht komt op allerlei algoritmes die nu zonder enige controle bij verschillende overheidsinstanties tot stand komen.

Strategisch actieplan

In het Kamerdebat laat de staatssecretaris zich verder niet uit over concrete voorstellen die de problemen bij geautomatiseerde besluitvorming moeten oplossen. Wel wijst hij erop dat de Kamer binnenkort drie stukken ontvangt: een brief van de minister van BZK over het beschermen van publieke waarden en mensenrechten, een brief van de staatssecretaris van Economische Zaken en Klimaat over het strategisch actieplan kunstmatige intelligentie en een brief van de minister voor Rechtsbescherming over de bescherming tegen risico's van data-analyse door de overheid.

Deze Kamerbrieven en het overkoepelende strategisch actieplan zijn inmiddels op 8 oktober 2019 verschenen. In dit actieplan is te lezen dat de regering op een drietal sporen wil gaan inzetten om de toepassing en ontwikkeling van artificiële intelligentie (AI) in Nederland te versnellen. Vooral spoor 3 en de aanvullende Kamerbrief van de minister voor Rechtsbescherming over spoor 3 zijn relevant voor de problemen die spelen bij geautomatiseerde besluitvorming. Hierin wordt namelijk ingegaan op mogelijke waarborgen tegen de risico's van het gebruik van algoritmes en data-analyse door de overheid.

Stibbe Digital Government pagina

In een bericht dat later zal verschijnen, gaan wij dieper in op de inhoud van het strategisch actieplan en de mogelijke waarborgen die de regering noemt.

Houd hiervoor ook onze nieuwe webpagina in de gaten die in het teken staat van 'Digital Government'. Op deze webpagina houden wij u up-to-date over de groeiende digitalisering bij de overheid door middel van jurisprudentie, kamerstukken, relevante artikelen en onze eigen analyses.