Digitalisering, machtenscheiding en transparantie
De overheid verwordt in rap tempo tot een heuse iOverheid.1 Overheidsbesluiten zullen in de toekomst vaker zonder menselijke tussenkomst worden genomen, op basis van geautomatiseerde besluitvorming. Daarvoor worden algoritmen en artificiële intelligentie ingezet. De overheid hoopt (en verwacht) met behulp van deze technologieën effectiever en efficiënter te kunnen optreden. Digitalisering brengt echter niet alleen kansen, maar ook risico’s met zich. Welbekend is intussen het lekken van privacygevoelige gegevens. Minder bekend, maar niettemin verontrustend is een meer rechtstatelijk risico. Door het toenemend gebruik van algoritmen en artificiële intelligentie dreigt een ‘digitale disbalans’ binnen de trias i te ontstaan.2
Digitale disbalans
Het is vooral de uitvoerende macht die sterk inzet op digitalisering. Het parlement en de rechterlijke macht kunnen deze ontwikkeling maar moeilijk bijbenen. Zij tasten (te) vaak in het duister over de werking en broncodes van (zelflerende) algoritmen. Deze achterstand heeft verschillende oorzaken. Ik noem er twee. In de eerste plaats lijken rechter en parlement – vooralsnog - onvoldoende geëquipeerd om nieuwe technologieën daadwerkelijk te kunnen doorgronden. Zij hebben eenvoudigweg te weinig specialistische kennis en kunde in huis. In de tweede plaats weigert de uitvoerende macht in veel gevallen om openheid van zaken te geven over het gebruik en de werking van algoritmen. De parlementaire en rechterlijke controle op de uitvoerende macht wordt hierdoor bemoeilijkt.
SyRI
Een pregnant voorbeeld is SyRI. Kort gezegd is dit een digitaal systeem waarmee persoonsgegevens worden geanalyseerd teneinde risicomeldingen van potentiële fraudeurs te generen. Hoe SyRI precies werkt, is geheim. Bekend is slechts dat allerlei categorieën persoonsgegevens uit verschillende overheidsdatabases mogen worden gekoppeld. Onbekend is welke gegevens in een concreet geval kunnen worden gekoppeld, wat het risicomodel en de bijbehorende risico-indicatoren zijn en wanneer de bestandskoppeling leidt tot risicomeldingen. Regeringsadviseurs leverden dan ook van meet af aan felle kritiek. Dat mocht niet baten. SyRI kwam er toch. Saillant detail: de wetgeving passeerde de Tweede en Eerste Kamer als hamerstuk. Achteraf bezien hebben zij de mogelijkheden en impact van dit analysesysteem ernstig onderschat – een rookie mistake.
De rechtbank Den Haag deelde de uitvoerende macht onlangs een stevige oorvijg uit.3 In een omvangrijke – zeer complexe – uitspraak oordeelt zij dat de inzet van SyRI voor haar ‘onvoldoende inzichtelijk en controleerbaar’ is. Het systeem is in wezen een black box. De minister weigerde tijdens de procedure steevast om aanvullende informatie over SyRI te verstrekken. De rechtbank heeft dus niet in de box mogen kijken. De Haagse rechtbank kon daarom niet goed onderzoeken of de privacywaarborgen toereikend waren. Mede daarom luidt de slotsom van de rechtbank dat de SyRI-wetgeving strijdt met artikel 8 EVRM en dus onverbindend is.
Openheid van zaken?
SyRI is slechts één voorbeeld. Onder de motorkap van de uitvoerende macht is nog veel meer gaande. Diverse overheidsinstanties gebruiken reeds (zelflerende) algoritmen of zijn voornemens dat in de nabije toekomst te doen.4 Dat is niet per definitie problematisch. Als gezegd, van nieuwe technologieën zijn zeker voordelen te verwachten. Het probleem is met name dat over deze materie lang niet altijd open wordt gecommuniceerd. Ik meen dat overheidsinstanties die overgaan tot verwerking van persoonsgegevens in digitale systemen daarover tenminste enige (algemene) informatie zouden moeten verstrekken. Bij voorkeur doen ze dat uit eigen beweging. Idealiter is die informatie – in de geest van artikel 110 Grondwet i – voor een ieder toegankelijk, begrijpelijk en duidelijk. Daarmee wordt ook tegemoetgekomen aan het in de Algemene Verordening Persoonsgegevens verankerde transparantiebeginsel. Toch zijn we er dan nog niet. Een black box kan door grotere openheid van zaken weliswaar veranderen in een crystal box, maar dan moet men wel begrijpen wat in die box te zien is.5 Rechter en parlement moeten daarom ook zélf inzetten op kennisvermeerdering over algoritmen en artificiële intelligentie. Doen zij dat niet, dan lopen zij het risico de weg in de digitale jungle van de uitvoerende macht kwijt te raken.
Grip op digitalisering
Stilaan lijkt het tij te keren. De adviseurs en controleurs van de uitvoerende macht krijgen steeds meer oog voor de risico’s van digitaliseringsinitiatieven. Ik noem drie voorbeelden. In 2018 publiceerde de Raad van State i een ongevraagd advies over de effecten van digitalisering voor de rechtsstatelijke verhoudingen.6 In dit zeer lezenswaardige advies staan scherpe analyses en nuttige aanknopingspunten voor zowel wetgever als bestuur. Tekenend is ook de instelling van de tijdelijke commissie Digitale Toekomst in 2019. De Tweede kamer hoopt zo meer inzicht en grip te krijgen op digitaliseringsvraagstukken. Tot slot zij erop gewezen dat de Algemene Rekenkamer i onlangs – op eigen initiatief – een grootschalig onderzoek naar algoritmegebruik is gestart. Dit onderzoek moet zicht bieden op welke typen algoritmen de overheid toepast, voor welke activiteiten, wat de impact ervan is op de maatschappij en op welke wijze de algoritmen het beste kunnen worden getoetst. De Rekenkamer hoopt zo te kunnen bijdragen aan de ontwikkeling van ‘toetsingskaders’.
Besluit
Digitalisering is een van de grootste uitdagingen van de eenentwintigste eeuw. Onze samenleving verandert in een razendsnel tempo in een ‘informatiemaatschappij’. De overheid kan en mag niet achterblijven. Zij zal moeten meeveranderen. Dat noopt tot het opnieuw doordenken van de verhoudingen tussen de drie staatsmachten. In die discussie zou mijns inziens bijzondere aandacht moeten uitgaan naar de (informatie)positie van het parlement en de rechter. Deze staatsmachten moeten overigens ook zélf maatregelen treffen. Investeren in de eigen digitale vaardigenheden is hoognodig. Zij zijn per slot van rekening de ware controleurs van de iOverheid, die nu én in de gedigitaliseerde toekomst slagvaardig moeten kunnen optreden.
Rowin Jansen is als docent en promovendus verbonden aan het Onderzoekcentrum voor Staat en Recht van de Radboud Universiteit Nijmegen.
[1] Naar WRR-rapport nr. 86, iOverheid (2011).
[2] Zie C. Prins, ‘Digitale (dis)balans binnen de trias’, NJB 2016/682. Vgl. C. Prins en R. Passchier, ‘Donner, de WRR, digitalisering en de rechtsstaat’, in: Rechtsorde en bestuur. Liber Amicorum Piet Hein Donner, Den Haag: 2018, p. 351-368.
[3] Rb. Den Haag 5 februari 2020, ECLI:NL:RBDHA:2020:865, JB 2020/63, m.nt. R.H.T. Jansen en M.D. Reijneveld.
[4] Zie ‘Overheid gebruikt op grote schaal voorspellende algoritmes’, NOS (29 mei 2019). Vgl. Kamerstukken II 2018/19, 26 643, nr. 588.
[5] Zie R. van den Hoven van Genderen, ‘Algoritmen en AI: distopische black box of glazen bol?’, Computerrecht 2020/5.
[6] Kamerstukken II 2017/18, 26643, nr. 557.