Regulering van algoritmen die zelfstandig besluiten nemen

Regulering van algoritmen die zelfstandig besluiten nemen

Samenvatting

De snelle technologische ontwikkelingen maken het noodzakelijk om vooruit te kijken. Software kan worden gebruikt om besluiten te nemen. Voor zover deze software is ingebed in bijvoorbeeld robots, kunnen deze besluiten niet alleen virtuele effecten hebben (een bepaalde output, waaraan gevolgen worden verbonden), maar ook fysieke effecten, zoals persoonlijke letsel en schade aan zaken. De vraag is wat de maatschappelijke gevolgen zijn van algoritmen die zelfstandig besluiten nemen, met als horizon de nabije toekomst (maximaal tien jaar) en hoe die te reguleren. Mede gelet op precedentwerking van oplossingen die andere partijen bedenken, is het nodig proactief een bijdrage te leveren aan de duiding van deze ontwikkelingen en een juiste beleidsmatige/juridische respons. Daarbij is van belang deze ontwikkelingen niet (alleen) te bezien vanuit het perspectief van wetgeving, maar meer in den brede vanuit de juridische functie, omdat beleid ook (al dan niet tijdelijk) vorm kan krijgen in convenanten, soepeler toezicht, et cetera.
Het betreft een casus-gerichte toegepaste aanpak. Ter inleiding dienen algemene ontwikkelingen op het gebied van Artificial Intelligence (AI) beschreven te worden, en deze te relateren aan de meer algemene ethisch/juridische vraagstukken die daarin een rol kunnen spelen. Vervolgens dient een longlist van casussen op verschillende domeinen/beleidsterreinen te worden opgesteld, waarin zich de komende vijf tot tien jaar belangrijke kansen en risico’s gaan voordoen. Teneinde te komen tot vijf geselecteerde casus.
Het onderzoek is voor het eerst aangekondigd in de kabinetsreactie op het WRR-rapport “Weten is nog geen doen, een realistisch perspectief op zelfredzaamheid’” uit 2017 (Tweede Kamerstukken, Vergaderjaar 2017-2018, 34775 VI, nr. 88, blz. 9).

Onderzoekgegevens

Werktitel:
Regulering van algoritmen die zelfstandig besluiten nemen
Projectnummer:
2947
Operationele status:
Startfase