Niemand weet straks nog waarom de overheid een besluit neemt

De overheid gebruikt steeds meer complexe modellen, gebaseerd op geavanceerde algoritmes. Op basis van grote hoeveelheden data van burgers worden ‘nauwkeurige’ voorspellingen gedaan en snel ‘goede’ beslissingen genomen. Althans in theorie. In de praktijk leiden deze modellen tot ondoorzichtige en niet-uitlegbare uitkomsten.

Neem het bijstandsverdeelmodel, waarmee het bijstandsbudget verdeeld wordt over alle gemeenten. Elke gemeente dient een eerlijk aandeel in dit budget te krijgen. Wat een gemeente tekortkomt, moet ze zelf bijleggen, wat ze overheeft mag ze houden.

Sinds 2015 wordt hiervoor een model gehanteerd dat de kans op bijstand in een gemeente, en het verwachte bedrag, voorspelt op basis van data van alle huishoudens in Nederland. Toch houden gemeenten het ene jaar over en komen ze het andere jaar 10% tekort, zonder dat het beleid is gewijzigd.

Gemeenten vragen zich dan af waarom ze het ineens zo slecht doen. Maar dat is bijzonder lastig uit te zoeken. Het model wordt weliswaar bekendgemaakt, maar de onderliggende data van miljoenen huishoudens zijn niet openbaar. Daardoor kunnen gemeenten of burgers onmogelijk een bepaalde uitkomst verklaren.

Zelfs partijen die toegang tot de data hebben, zoals de bouwers van het model, kunnen meestal niet uitleggen waarom het model een bepaalde uitkomst geeft. ‘De data zeggen het, dus het zal wel kloppen’, is dan het adagium.

Omdat de uitkomsten van deze modellen niet uitlegbaar zijn, kunnen ze niet worden getoetst door rechters. Zij beschikken niet over de kennis, de middelen en de toegang om te onderzoeken of de modellen juist zijn gebouwd. En als rechters beslissingen van de overheid niet langer kunnen toetsen, tasten we onze rechtsstaat aan.

Eind vorig jaar waarschuwde de Raad van State in een ongevraagd advies dat situaties dreigen te ontstaan waarin de burger niet meer kan nagaan welke regels zijn toegepast en waarin niet meer vast te stellen is of de regels doen waarvoor ze bedoeld zijn. Toch lijkt de automatiseringsdrift van de overheid niet te worden geremd door dergelijke elementaire bezwaren: een fundamentele discussie over het gebruik van deze modellen blijft uit.

Onlangs pleitte Kamerlid Kees Verhoeven voor openbaarmaking van dit soort modellen. Dat is een stap in de goede richting, maar biedt te weinig grip. Het zegt immers niks over de onderliggende data. En zoals het voorbeeld van het bijstandsverdeelmodel laat zien, is het zelfs mét data steeds lastiger de werking van de modellen te duiden.

Vergeet transparantie. De discussie moet gaan over de vraag of de overheid überhaupt complexe modellen moet gebruiken.

Dit artikel verscheen op 2 maart 2019 in het Financieel Dagblad.

Reacties zijn gesloten.