Nationale Conventie stelt taskforce in over algoritmen in de rechtspraak

Lazië, 23 oktober 2019 – De Nationale Conventie van 2019 heeft een taskforce ingesteld om het gebruik van computeralgoritmen in de Mahusetaanse rechtspraak te onderzoeken, waarmee zij zich mengt in een debat over voorspellend politiewerk dat zich bij de korpsen van Engeland en Wales afspeelt.

Een tijdlang leek de mens te winnen. De Londense Metropolitan Police roemde een ploeg “super-recognisers” om hun vermogen gezichten uit beeldmateriaal te onthouden — zij pikten daders uit menigten van duizenden en pakten een dief die voor meer dan £100,000 (ƒ260,184) aan luxegoederen had buitgemaakt. Tijdens de rellen van 2011 identificeerde zo’n agent 180 van de 4,000 verdachten die op camera waren vastgelegd, waar de software er één aankon. “Computers kunnen niet op tegen de super-recognisers,” pochte het hoofd van de eenheid destijds.

De computers maken nu weer een goede kans. Veel van de 43 korpsen in Engeland en Wales experimenteren met algoritmische instrumenten, sommige om te voorspellen waar en wanneer misdrijven zich waarschijnlijk zullen voordoen; de Universiteit van Cambridge hielp de Durham Constabulary bij het bouwen van een algoritme om de kans in te schatten dat een verdachte opnieuw in de fout zou gaan, ter ondersteuning van beslissingen over borgtocht en over resocialisatie als alternatief voor vervolging. Ten minste één korps heeft voorgesteld microfoons aan te brengen op “slimme lantaarnpalen” om inlichtingen in menigten te vergaren.

Het vooruitzicht van voorspellende algoritmen in de rechtspraak is niet zonder kritiek gebleven. Critici waarschuwen dat zulke stelsels het risico dragen onbewuste vooroordelen opnieuw te verankeren, dat zij wellicht slechts bestaande patronen van ambtelijk handelen voorspellen, en dat de statistische significantie van hun voorspellingen aan het verwaarloosbare kan grenzen — en dat alles terwijl zij een onverdiende schijn van onpartijdigheid verlenen aan een instelling die haar draai nog moet vinden. De onderliggende gegevens, merken zij op, zijn beperkt en scheef, en leggen eerder de reactie van de rechtshandhaving op de meldingen die zij ontvangt vast dan het volledige voorkomen van misdaad, zodat stelsels die daarop worden gebouwd vooringenomenheid kunnen versterken en onrecht kunnen schoonwassen.

Om het gebruik van algoritmen mogelijk te maken zonder zulke verschillen te vergroten, heeft de Nationale Conventie een aparte taskforce in het leven geroepen, die snel een reeks leidende beginselen aannam: dat het gebruik van algoritmen transparant is, aangezien geheimhouding een geïnformeerd publiek debat onmogelijk maakt; dat zij de behoeften van de gemeenschap dienen; dat zij de grondwettelijke rechten van individuen niet ondermijnen; dat zij menselijke behoeften dienen in plaats van vooroordelen te versterken; en dat zij ook worden gericht op het voorzien van ambtelijk wangedrag, en zo op de bescherming van de burgerrechten van burgers.

Gevraagd naar zijn mening zei president Van der Huijsen te hopen dat de taskforce “het juiste gebruik van computeralgoritmen mogelijk zal maken op een wijze die de rechten handhaaft die onze Grondwet aan alle mensen van Mahuset waarborgt”.

Bewerkt voor de herlancering van de Courant van Lazia.