CDA en D66 willen nieuwe toezichthouder en regels algoritmegebruik overheid

CDA en D66 willen regels instellen om algoritmegebruik door de overheid te reguleren. Ook willen beide regeringspartijen dat er een toezichthouder komt die daarop zal toezien. Of dat een bestaande of nieuwe toezichthouder wordt, is niet duidelijk.

Dit stellen kamerleden Kees Verhoeven van D66 en Harry van der Molen van het CDA tegenover de NOS. In feite gebruikt de overheid data om bij burgers bepaalde handelingen te laten doen, bijvoorbeeld bij het invullen van belastingformulieren, maar ook bij het maken van risicoprofielen van bugers. Zo kan van burgers aan de hand van hun medisch, psychologisch, justicieel en sociaal-economische situatie een profielschets worden gemaakt aan de hand waarvan de overheid op een bepaalde wijze met hun burgers omgaat. Dit willen CDA en D66 voorkomen, mede om discriminatie tegen te gaan en het principe van grondwettelijke gelijkheid te waarborgen. Vooralsnog spreken D66 en CDA alleen over de overheid en niet over marktpartijen en commercieel gebruik van algoritmes.

Joris van Heukelom vraagt regelmatig aandacht voor wat de interactie tussen mens en machine betekent voor de maatschappij, zo ook tijdens het Cross Media Congres 2019 waarin Joris van Heukelom aangaf dat algoritme de langste tijd heeft gehad: het werkt al zo dat in de Verenigde Statenals algoritmes zijn ontwikkeld waarmee justitie werkt om iemand als verdachte aan te merken. Daarbij haalt Joris van Heukelom China aan, waar is aangekondigd dat de regering iedereen gaat classificeren via datasystemen. 

Dat roept allerlei vragen op. Immers, wie beoordeelt en bepaalt de input, wie beoordeelt de output, het leren? Wat wordt het centrale beloningsmechanisme en welke status geven we de nieuwe algoritmes? Wat betekent het voor de handelingsvrijheid en maatschappelijke importantie? Wat zou het betekenen als winstmaximalisatie het criterium wordt? Wanneer zetten we dit in? Bij belastingdiensten, banken, verzekering, justitie, politie? En wat doet dit met de veiligheid van ICT-systemen die al rammelt? Wat betekent dit met het ideaalbeeld voor de opleiding van kinderen. De kernvraag is volgens Joris van Heukelom hoe we in charge blijven zonder technologie te zien als bedreiging. In een  onlangs gehouden interview gaat gaat Joris van Heukelom verder in op het gegeven dat de mens meer mens moet zijn en machines de baaas moet zijn.

www.cda.nl
www.d66.nl