Steeds vaker wordt gebruikgemaakt van algoritmen om menselijke taken over te nemen, zoals het besturen van auto’s, het verwijderen van haatzaaiende berichten op sociale media en het innen van verkeersboetes. Ook in de rechtspraak wordt in de toekomst mogelijk gebruik gemaakt van algoritmen. Dat gebeurt omdat algoritmen vaak beter dan mensen in staat zijn om repetitieve taken op een efficiënte en nauwkeurige manier uit te voeren. In het onderzoek van de Universiteit Utrecht zijn de kansen en risico’s van algoritmische besluitvorming op het gebied van de bescherming en realisering van publieke waarden en belangen nader bekeken. Ook is onderzocht of de bestaande juridische kaders voldoende mogelijkheden bieden om kansen te verwezenlijken of risico’s te voorkomen of onwenselijke gevolgen tegen te gaan. Het onderzoek is onder meer genoemd in het Strategisch Actieplan voor Artificiële Intelligentie en de Agenda Digitale Overheid: NL DIGIbeter. In het Kabinetsstandpunt op het WRR-rapport Weten is nog geen doen is aan de Tweede Kamer toegezegd dat de vraag ‘welke kansen kunstmatige intelligentie kan bieden voor een tijdige signalering, vooral in massale besluitvormingsprocessen, van mensen die door omstandigheden (tijdelijk) mogelijk niet zelfredzaam zijn’ onderdeel zal uitmaken van het onderzoek. Daarbij geeft het kabinet aan dat dit zou kunnen helpen om gevallen (tijdiger) te identificeren waar een standaardbenadering niet op zijn plaats is en maatwerk meer voor de hand ligt.

Risico's

Het gebruik van algoritmen kent ook risico’s. Als algoritmen niet goed worden ‘getraind’ dan kan dat bijvoorbeeld leiden tot discriminatie. Algoritmen maken bovendien veel gebruik van persoonlijke data en kunnen gevoelige gegevens ook aan elkaar koppelen. Daardoor kunnen overheden en bedrijven veel te weten komen over mensen en kunnen dus privacyrisico’s ontstaan. Daarnaast is niet altijd duidelijk hoe zelflerende algoritmen tot een uitkomst komen. Dit maakt het moeilijk, en soms onmogelijk, om argumenten aan te voeren tegen een algoritmisch besluit. Daardoor komt de rechtsbescherming in het gedrang. Hoewel sommige van deze risico’s ook bestaan als mensen zelf beslissingen nemen, benadrukken de onderzoekers dat het gebruik van algoritmen grote gevolgen kan hebben, omdat algoritmen het mogelijk maken om snel en op grote schaal te beslissen.

Bescherming door handhaving van bestaande regels

In het onderzoek, dat vandaag door de Minister voor Rechtsbescherming aan de Tweede Kamer is gestuurd, concluderen de onderzoekers dat het wetboek de komende tijd niet drastisch op de schop hoeft. Bestaande wetgeving biedt nu vaak al voldoende bescherming van de publieke waarden van non-discriminatie, privacy en rechtsbescherming. Wel moeten de bestaande regels worden gehandhaafd als algoritmen beslissingen nemen met gevolgen voor mensen. Daar ligt een belangrijke verantwoordelijkheid voor toezichthouders zoals de Autoriteit Persoonsgegevens. Ook rechters zullen bestaande regels moeten toepassen en daarbij de risico’s van algoritmen niet uit het oog verliezen. De uitspraak in de SyRI-zaak, waarin de rechter een streep haalde door het gebruik van algoritmen om fraude te ontdekken, is daarvan een goed voorbeeld.

Mogelijke ontwikkelingen in de toekomst

De onderzoekers richtten zich in het onderzoek op het huidige gebruik van algoritmen en ontwikkelingen die zich de komende vijf tot tien jaar zouden kunnen voordoen. Daarbij is gekeken naar het (mogelijke) gebruik van algoritmen in de rechtspraak, in zelfrijdende auto’s, door het Centraal Justitieel Incassobureau (CJIB) bij het innen van verkeersboetes en door online platformen om online berichten te modereren.
Lees het volledige rapport: Juridische aspecten van algoritmen die besluiten nemen: Een verkennend onderzoek - Met casestudy’s naar contentmoderatie door online platformen, zelfrijdende auto’s, de rechtspraak en overheidsincasso bij verkeersboetes