In Rotterdam worden jaarlijks duizend – van de in totaal dertigduizend – mensen in de bijstand onderworpen aan een uitgebreide controle vanwege een verdenking van ‘onrechtmatigheden’. Afgelopen jaar deed de gemeente dat met behulp van een ‘slim’ algoritme. Dat algoritme wordt gevoed met ‘trainingsdata’; daarvoor werd de computer gevoed met duizenden voorbeelden van bijstandontvangers die over de jaren onrechtmatigheden hadden gepleegd met hun uitkering. Een direct gevolg van digitalisering op de democratie. Steunen ‘slimme’ technologieën de democratie juist of hollen ze die verder uit?
Aan de hand van het essay Doe zelf normaal van Maxim Februari bespreken we de gevolgen van de digitalisering op het rechtssysteem. We discussiëren voornamelijk over het onderwerp jurisprudentie en hoe er de afgelopen jaren meer nadruk komt te liggen op het gebruik van algoritmes voor preventie en veiligheid.
We behandelen niet alleen de vraag of het gebruik van algoritmes goed werkt in de praktijk, maar erkennen dat ze alomtegenwoordig zijn in de huidige digitale samenleving. Onze focus gaat uit naar het vergroten van transparante systemen en het heroverwegen van alternatieve oplossingen.
Doe zelf normaal gaat over de fundamentele verandering in de manier waarop normen tot stand komen. Technologie heeft een significante invloed gehad op de sturing van ons gedrag: we besteden regulering van ons gedrag uit aan datasystemen en politieke beslissingsmacht aan bedrijven.