We lijken het (nog) niet goed door te hebben, maar we leven in Nederland in een digitale controlestaat. De regering maar ook gemeenten en uitvoeringsinstanties zetten regelmatig digitale technologieën en data in die onze democratische rechtsstaat ondermijnen.

Het contrast tussen het internetoptimisme uit de jaren negentig en de digitale uitdagingen waar we nu voor staan, is groot. Eind jaren tachtig leek het nog of de economie altijd zou blijven groeien en de liberale democratie de wereld zou veroveren.[i] Maar vanaf het begin van deze eeuw keerde het tij op verschillende fronten.

Naast de dotcomcrisis in 2000, die de eerste generatie internetbedrijven dwong tot het genereren van daadwerkelijke inkomsten en zo leidde tot het huidige (data)verdienmodel van hedendaagse techreuzen, was er een tweede cruciale gebeurtenis die nog steeds doorwerkt in ons digitale tijdperk: ruim een jaar na het instorten van de Amerikaanse internetbeurs boorden twee zelfmoordvliegtuigen zich op 9/11 in de Twin Towers. In reactie op deze terreuraanslag riep de Amerikaanse president George W. Bush de ‘war on terror’ uit die uiteindelijk zou leiden tot de ongefundeerde inval in Irak waar ook Nederland aan meedeed.

Veel minder zichtbaar was dat westerse overheden in die jaren begonnen met het grootschalig verzamelen van digitale gegevens over hun burgers. In de decennia die volgden heeft dit dusdanige vormen aangenomen dat we nu kunnen spreken van de transformatie naar digitale surveillancestaten. Nederland vormt op deze trend helaas geen uitzondering.

Niet alle digitale gegevensverwerking is slecht

Voor ik deze scherpe stelling verder onderbouw, wil ik drie zaken onderstrepen. Te beginnen met de vaststelling dat digitale instrumenten op vele gebieden een positieve bijdrage (kunnen) leveren aan de kwaliteit van ons leven. Zo zijn zelflerende algoritmes beter dan mensen in staat om bepaalde kankertumoren te herkennen en kan AI-technologie kankerbehandelingen helpen verbeteren.[ii]

Een ander mooi voorbeeld zijn overheidsalgoritmes waarmee het in de nabije toekomst mogelijk wordt om niet gedane AOW-aanvragen in kaart te brengen of om mensen aanvullende inkomensondersteuning te bieden. Of neem de vooraf ingevulde online-formulieren zoals de loonaangifte van de Belastingdienst, die burgers veel invulwerk besparen. Denk verder aan alle systemen waarmee het weg-, water-, en luchtverkeer wordt gemonitord of satellietdata die het mogelijk maken ontbossing vroegtijdig in kaart te brengen.

Heel actueel is de mogelijkheid om aan de hand van data-analyses de huisvesting van vluchtelingen beter te laten aansluiten bij hun achtergrond, opleiding en werkervaring. Deze ‘matching’ vergroot de kans op goede integratie en actieve deelname aan de samenleving. Kunstmatige intelligentie kan de samenleving dus verbeteren, vooral als toepassingen ontworpen en ingezet worden om mensen te helpen in plaats van ze te straffen.[iii]

Op de tweede plaats wil ik benadrukken dat ik uitga van een overheid die handelt op basis van goede intenties en die de bevolking probeert te beschermen. Dat bij het nastreven van dit doel gebruikgemaakt wordt van moderne technieken en digitale technologie is – ook gezien het bovenstaande - logisch. In het navolgende zal ik laten zien dat dit geregeld misloopt waardoor de goede intenties uitmonden in slechte interventies. Maar ik ga hierbij dus niet uit van kwade opzet.

Mijn derde punt sluit hierop aan. De inzet van (digitale) beleidsmiddelen is onderhevig aan psychologische invloeden. Ieder mens heeft behoefte aan grip op zijn omgeving en ieder mens lijdt aan verliesaversie: de cognitieve vertekening waarbij we verlies beduidend zwaarder laten wegen dan winst.[iv] Een gevolg hiervan is dat vooral welvarende samenlevingen (die veel te verliezen hebben) pech, tegenslagen en ongelukken slecht kunnen verdragen en dus sterk gericht zijn op het verkleinen van risico’s.

Zeker nu online media en sociale media 24/7 de publieke opinie aanjagen en angst of onrecht uitvergroten, willen politici - van alle partijen - er alles aan doen om de bevolking te vrijwaren van ellende. Het is deze maakbaarheidsdrang die de nationale veiligheid tot een obsessie maakt, die criminaliteitsbestrijding boven rechtsstatelijke principes stelt en die de fraudeaanpak van de overheid in de toeslagenaffaire liet doorslaan naar valse beschuldigingen.

Dit mechanisme was er in de vorige eeuw ook al maar wordt in het digitale tijdperk flink versterkt door de beschikbaarheid van digitale instrumenten zoals databestanden, gezichtsherkenningscamera’s, sensoren en algoritmes, waarmee op ongekend grote schaal en met enorme snelheid informatie over mensen verzameld kan worden.

Wat de situatie nog bemoeilijkt is het fenomeen dat we ons oordeel baseren op wat we zien - een denkfout die de beroemde psycholoog Daniel Kahneman ooit doopte als ‘What you see is all there is.’[v] Met als gevolg dat we de invloed van digitale componenten en instrumenten schromelijk onderschatten.

Terug naar de kern van mijn betoog, namelijk dat onze overheid in de greep is geraakt van wat ik ‘datagedreven controlezucht’ noem. Dit beschadigt de fundamenten van onze rechtsstaat. Onze samenleving krijgt de trekjes van een surveillancestaat en vooral kwetsbare groepen burgers worden hierdoor geraakt. Die ontwikkeling richting een digitale surveillancestaat verloopt via twee parallelle hoofdroutes: via onhoudbare wetgeving én via onwettig overheidshandelen.

Doodlopende weg 1: onhoudbare wetgeving

Een belangrijke bron van de problemen ligt bij het aannemen van wetgeving die in strijd is met internationale verdragen (zoals het Europees Verdrag voor de Rechten van de Mens), Europese wetgeving (zoals de Algemene Verordening Gegevensbescherming) of de Nederlandse Grondwet (waarin klassieke grondrechten zoals het recht op een persoonlijke levenssfeer zijn opgenomen).

Twee voorbeelden hiervan uit de recente politieke geschiedenis zijn het toeslagenschandaal en het Systeem Risico Indicatie (SyRI). Het eerste is door alle publiciteit algemeen bekend: mede op basis van - in 2014 door de voltallige Tweede Kamer gesteunde - keiharde antifraude-wetgeving legde de Belastingdienst een zwarte lijst aan van mensen met een verhoogd risico op het frauderen met kinderopvangtoeslag. Veel huishoudens op deze lijst moesten onterecht en zonder pardon forse bedragen terugbetalen en kwamen in grote problemen.

Uiteindelijk moest het ministerie van Financiën toegeven dat bij het toezicht van de Belastingdienst (door middel van de fraude signalering voorziening, FSV, waarmee Belastingmedewerkers konden registeren of een aangifte onjuist was en handmatige controle behoefde) sprake was geweest van institutioneel racisme.[vi]

Het tweede voorbeeld is SyRI, een datamethode die veel gemeenten gebruikten om bijstandsfraude op te sporen. Dit antifraudesysteem werd in 2020 verboden omdat het onvoldoende inzichtelijk en controleerbaar was, waardoor stigmatiserende en discriminerende effecten zouden kunnen optreden. Zo werden kwetsbare groepen in kwetsbare wijken bijvoorbeeld veel vaker gecontroleerd, hetgeen de kans op onterechte verdenking doet stijgen.

De rechtbank oordeelde dan ook dat de wetgeving die de inzet van SyRI regelde in strijd was met hoger recht, zijnde artikel 8 van het Europees Verdrag voor de Rechten van de Mens dat het recht op respect voor het privé-leven beschermt. Ook deze onhoudbare wetgeving was door de Tweede Kamer goedgekeurd - in 2014 als hamerstuk.

Naast de al benoemde controledrift van het kabinet speelde in beide gevallen overigens ook de scoringsdrang van het parlement een rol. Gedreven door talkshows, Twitter en Tiktok zijn Kamerleden namelijk steeds meer bezig met beeldvorming en steeds minder met de inhoud van wetgeving. Zo kon het gebeuren dat er in de hoogtijdagen van het fraudespook veel politiek haantjesgedrag was, maar er geen haan kraaide naar de precieze inhoud van de doorgeslagen controlewetten van het kabinet. Naast de vaak gepredikte nieuwe bestuurscultuur is ook een nieuwe debatcultuur nodig waarbij de wetsinhoud weer centraal komt te staan. Zodat Kamerleden niet alleen unaniem roepen dat er moet worden ingegrepen maar de Kamer ook collectief werk maakt van het controleren van de inhoud van de maatregelen.

Helaas zijn deze harde historische lessen ondanks alle journalistieke en parlementaire aandacht nog onvoldoende doorgedrongen in de handelswijze van kabinet en Tweede Kamer. Zo werkt het kabinet onverminderd door aan wetgeving die overheidsinstanties vergaande databevoegdheden moet geven om burgers in de gaten te mogen houden, zoals de spoedwet die de Nationaal Coördinator Terrorismebestrijding en Veiligheid het mandaat biedt burgers meer te controleren, of de witwaswet om elke transactie boven de € 100 te kunnen volgen.

Te vaak komt de Tweede Kamer hier onvoldoende tegen in het geweer. Dat gold ook bij de behandeling van de Wet Gegevensverwerking door Samenwerkingsverbanden (WGS), die allerlei overheidsinstanties haast onbeperkt data laat uitwisselen binnen speciale samenwerkingsverbanden zoals de Infobox Crimineel en Onverklaarbaar Vermogen (iCOV), en de Zorg- en Veiligheidshuizen (ZVH’s), en voor de wijziging van de Sleepwet, die vergaande dataoperaties mogelijk maakt en tegelijk het onafhankelijke toezicht versoepelt. Nadat het risico op het ongerichte verzamelen van data naar aanleiding van de referendumuitslag was ingeperkt, dreigen de diensten nu alsnog veel speelruimte tegen weinig democratische controle te krijgen.

Doodlopende weg 2: onwettig overheidshandelen

De tweede route wordt gebaand door overheidsorganisaties die zich bij de uitoefening van hun taak zelf niet aan de wet houden. Naast de eerder aangehaalde Belastingdienst geldt dit voor de inlichtingendiensten, die door toezichthouder CTIVD op de vingers werd getikt vanwege het onrechtmatig bewaren van bulkdatasets.

Maar het speelt ook bij de politie, die in strijd met de hackwet uit 2016 gebruikmaakt van commerciële hacksoftware of bij het leger, dat tijdens de coronapandemie een data-unit optuigde om grote schaal informatie te verzamelen over de Nederlandse samenleving. Daarnaast is ook sprake van een wildgroei aan algoritmes en gezichtsherkenningscamera’s die gemeenten inzetten bij de uitvoering van hun beleid. Zo werd de gemeente Rotterdam teruggefloten door haar lokale rekenkamer die het project ‘analytics uitkeringsfraude’ betitelde als ‘gekleurde technologie’ omdat de eerlijkheid en de transparantie van het controlesysteem ondermaats waren en uitkeringsbehoeftigen daar de dupe van werden.[vii] Opnieuw omdat mensen die afhankelijk zijn van overheidsregelingen vaker in de systemen zitten maar ook omdat de algoritmes zo zijn ingericht dat bepaalde persoonskenmerken tot veel hogere ‘risicowaarden’ leiden.[viii]

Vertrouwen, tegenmacht en de rechtsstaat

Wat moeten we doen om beide routes om te buigen en weer terug te keren naar een democratische rechtsstaat? Het tij keren zal hoe dan ook een lange adem vergen, en inzet van veel partijen: van bestuurders, politici, ambtenaren en journalisten. Al deze betrokkenen zullen andere keuzes moeten maken dan ze nu doen om gezamenlijk verandering tot stand te kunnen brengen. In mijn boek De democratie crasht, dat begin dit haar uitkwam, doe ik een groot aantal verbetervoorstellen voor herstel van de democratie in het digitale tijdperk. Op basis hiervan doe ik hier drie aanbevelingen.

Durf allereerst de burger te vertrouwen. Vertrouwen is de belangrijkste grondstof voor een economie.[ix] ‘High trust societies’ zoals Denemarken en Noorwegen zijn zonder uitzondering de meest veilige, vrije en welvarende landen ter wereld. Concreet vraagt dit een overheid die zich bij het ontwerpen en uitvoeren van beleid niet langer baseert op de sombere mensbeelden van Machiavelli en Hobbes maar op het idee dat de meeste mensen deugen.[x]

Een overheid die dit als uitgangspunt neemt, zal minder geneigd zijn allerlei vergaande wetten op te tuigen om meer controle te kunnen uitoefenen. Overigens moet controle op het gedrag en gebruik van voorzieningen mogelijk blijven maar enkel steekproefsgewijs of op basis van concrete verdenkingen. Gemeenten, uitvoeringsinstanties en ministeries moeten dus wegblijven van preventieve databases en zwarte lijsten.

Op de tweede plaats: versterk de politieke tegenmacht. Het verleden heeft uitgewezen dat slechte wetten tot echte ellende leiden. De Tweede Kamer zal haar wetgevende taak daarom veel meer gewicht moeten geven. Dit betekent dat ons parlement moet worden uitgebreid naar tweehonderd Kamerleden, die veel betere ondersteuning krijgen. Deze vaak bepleitte maatregel zal alleen werken als de extra menskracht niet wordt ingezet voor nog meer beeldvorming. Om te bewerkstelligen dat Kamerleden meer tijd besteden aan het controleren van wetgeving en uitvoering zullen politieke partijen en parlementair journalisten dit werk hoger moeten gaan waarderen en zullen tevens het Bureau Wetgeving en de Dienst Afdeling Onderzoek van de Tweede Kamer worden uitgebreid.

Ook dienen wethouders, gedeputeerden en ministers beter te luisteren naar de kritische tegenspraak en onafhankelijke adviezen van wetenschappers, journalisten, adviesorganen en toezichthouders. Hiertoe moeten ambtenaren niet gestraft maar beloond worden voor interne kritiek en moet de Kamer het kabinet dwingen om externe kritiek serieus te wegen.

Ten slotte moet de overheid met data binnen de grenzen van de rechtsstaat blijven. De inzet van data wordt vaak gerechtvaardigd met de bewering dat het efficiënt, doelmatig en objectief is. Echter, vaak is het tegendeel waar en worden onnodige grote hoeveelheden data verzameld, worden achteraf nieuwe toepassingen bedacht en blijken kwetsbare groepen vaak benadeeld te worden. Om te voorkomen dat technische biases maatschappelijke schade berokkenen, is het zaak terug te keren naar rechtstatelijke principes als de onschuldpresumptie en het legaliteitsbeginsel, dat voorschrijft dat overheidshandelen een wettelijke basis moet hebben.

Tevens moeten dataminimalisatie en doelbinding bij elke data-toepassing het uitgangspunt vormen: verzamel als gemeente, uitvoeringsinstantie of samenwerkingsverband zo weinig mogelijk data en gebruik de gegevens enkel voor het oorspronkelijke verzameldoel. Tot slot moet er altijd een vorm van menselijke tussenkomst zijn om de computer terug te kunnen fluiten. In navolging van de regeringscommissaris informatiehuishouding zou de aanstelling van een regeringscommissaris dataverantwoordelijkheid een betekenisvolle stap zijn. Een menselijke samenleving in het digitale tijdperk is namelijk niet haalbaar zonder politici die technologie bijsturen en begrenzen.

Noten

[i] Francis Fukuyama sprak bijvoorbeeld van ‘Het einde van de geschiedenis’, als metafoor voor het idee dat iedereen zou komen te leven in een vrije markt democratie.
[ii] UvA, Verbeterde kankerbehandelingen met AI-technologie, 23 september 2020.
[iii] Bessems, Kustaw. De jonge generatie zal digitale systemen veiliger maken. De Volkskrant, 30 september 2022.
[iv] Kahneman, Daniel. Ons feilbare denken. Vert. Peter van Huizen & Jonas de Vries. Amsterdam: Uitgeverij Business Contact, 2011, p. 302.
[v] Kahneman, Daniel. Ons feilbare denken. Vert. Peter van Huizen & Jonas de Vries. Amsterdam: Uitgeverij Business Contact, 2011, p. 93.
[vi] NOS, Kabinet erkent institutioneel racisme bij deel fiscus: ‘Heeft velen pijn gedaan’, 30 mei 2022.
[vii] Rekenkamer Rotterdam, Gekleurde technologie, 15 april 2021.
[viii] Follow the Money, Zo leerde een Rotterdams fraudealgoritme kwetsbare groepen te verdenken, 6 maart 2023.
[ix] Svendsen, Gert Tinggaard. Trust. Aarhus University Press, 2019.
[x] Bregman, Rutger. Dit idee kan alles veranderen: de meeste mensen deugen. De Correspondent, 20 augustus 2019.