Juridische aspecten van algoritmen die besluiten nemen

Juridische aspecten van algoritmen die besluiten nemen

Een verkennend onderzoek - Met casestudy’s naar contentmoderatie door online platformen, zelfrijdende auto’s, de rechtspraak en overheidsincasso bij verkeersboetes

Samenvatting

De snelle technologische ontwikkelingen maken het noodzakelijk om vooruit te kijken. Software kan worden gebruikt om besluiten te nemen. Voor zover deze software is ingebed in bijvoorbeeld robots, kunnen deze besluiten niet alleen virtuele effecten hebben (een bepaalde output, waaraan gevolgen worden verbonden), maar ook fysieke effecten, zoals persoonlijke letsel en schade aan zaken. De vraag is wat de maatschappelijke gevolgen zijn van algoritmen die zelfstandig besluiten nemen, met als horizon de nabije toekomst (maximaal tien jaar) en hoe die te reguleren. Mede gelet op precedentwerking van oplossingen die andere partijen bedenken, is het nodig proactief een bijdrage te leveren aan de duiding van deze ontwikkelingen en een juiste beleidsmatige/juridische respons. Daarbij is van belang deze ontwikkelingen niet (alleen) te bezien vanuit het perspectief van wetgeving, maar meer in den brede vanuit de juridische functie, omdat beleid ook (al dan niet tijdelijk) vorm kan krijgen in convenanten, soepeler toezicht, et cetera.
Het betreft een casus-gerichte toegepaste aanpak. Ter inleiding dienen algemene ontwikkelingen op het gebied van Artificial Intelligence (AI) beschreven te worden, en deze te relateren aan de meer algemene ethisch/juridische vraagstukken die daarin een rol kunnen spelen. Vervolgens dient een longlist van casussen op verschillende domeinen/beleidsterreinen te worden opgesteld, waarin zich de komende vijf tot tien jaar belangrijke kansen en risico’s gaan voordoen. Teneinde te komen tot vijf geselecteerde casus.
Het onderzoek is voor het eerst aangekondigd in de kabinetsreactie op het WRR-rapport “Weten is nog geen doen, een realistisch perspectief op zelfredzaamheid’” uit 2017 (Tweede Kamerstukken, Vergaderjaar 2017-2018, 34775 VI, nr. 88, blz. 9).

Inhoudsopgave

Samenvatting
Lijst van afkortingen

  1. Inleiding
  2. Algoritmen: een introductie
  3. Publieke waarden en belangen
  4. Casestudy Contentmoderatie door online platformen
  5. Casestudy Zelfrijdende auto's
  6. Casestudy De rechtspraak
  7. Casestudy Overheidsincasso bij verkeersboetes
  8. Kansen en risico's
  9. Bestendigheid van de juridische kaders
  10. Conclusie

Bijlagen
Bibliografie
Over het onderzoek

Publicatiegegevens

Auteur(s):
Kulk, S., Deursen, S., Snijders, Th. (medew.), Breemen, V. (medew.), Wouters, A. (medew.), Philipsen, S. (medew.), Boekema, M. (medew.), Heeger, S. (medew.)
Organisatie(s):
WODC, UU - Faculteit der Rechtsgeleerdheid, Strafrecht
Plaats uitgave:
Utrecht
Uitgever:
Universiteit Utrecht - Montaigne Centrum voor Rechtsstaat en Rechtspleging
Jaar van uitgave:
2020
Type rapport:
Eindrapport

Bestelinformatie

Adres:
Universiteit Utrecht - Montaigne Centrum
 
Achter Sint Pieter 200
 
3512 HT Utrecht
Telefoon:
(030) – 253 80 74
E-mailadres:
montaignecentrum@uu.nl
Website:
http://montaigne.rebo.uu.nl/

Onderzoekgegevens

Werktitel:
Regulering van algoritmen die zelfstandig besluiten nemen
Projectnummer:
2947
Operationele status:
Afgerond