Een mooi staaltje Zwitsers speurwerk van de SRF over predictive policing bij de mensen thuis. Het politiewerk laten ondersteunen door voorspellende computeralgoritmes is daar na 1 onvoorziene dramatische schietpartij sinds 2011 groot aan het worden. Het speurwerk betreft een systeem dat via 39 ja/nee vragen met een uitspraak komt of jij een gevaar vormt voor je partner. Ofwel drink je veel, recent werkloos geraakt door je vrouw uit huis gezet en daar chagrijnig over? Dan kun je een bezoekje verwachten van de hermandad. Het is net Minority Report. Terwijl evaluatie van de software glashelder laat zien dat het aantal fout-positieven enorm is. Het algoritme overschat het risico dus fors, terwijl intussen al die fout-positieven bezocht worden. Wat een verspilling van menskracht en dus geld. Helaas zijn we veel te veel vertrouwen in algoritmes aan het krijgen, en ik zie dat eerder meer dan minder worden.

Predictive policing: we willen graag nul risico lopen.

Hier speelt onze bijna dwangmatige neiging om alle risico uit te bannen een grote rol: om zeker te weten dat er nooit iets misgaat krijgen velen onterecht met de politie te maken. Wat doet dat met een mens, juist in zo’n zware tijd? Je zult maar buiten je schuld op straat zijn geraakt en dan per definitie door het almachtige algoritme een rode vlag achter je naam krijgen. Een vlag waarvan je mag afwachten of die gewist wordt wanneer je problemen voorbij zijn.

Het Heilige Algoritme

En wat doet dit met de jarenlange en zeer waardevolle ervaring ofwel het ‘onderbuikgevoel’ van de politieman in de straat? Die agent kan niet anders dan steeds meer op het algoritme gaan vertrouwen, want de computer zegt het dus is het vast waar. Intussen valt een groot deel van de echte amokmakers buiten de algoritmische boot, want toevallig gebruiken ze geen drugs en zijn ze niet zojuist gedumpt. De werkelijkheid is complexer dan een kleine veertig ja/nee vragen. Een algoritme levert altijd een uitspraak maar is gebaseerd op de vaak beperkte kennis die er in is verwerkt. Vaak is dat prima voor een eerste indicatie maar hecht er vooral niet te veel waarde aan.

Mijn persoonlijke conclusie: algoritmen hebben hun plaats en hun tijd en zijn absoluut waardevol, geen misverstand daarover. Als techneut kan ik zelfs genieten van een mooie programmacode. Maar wanneer je zonder verdere aanleiding een forensisch psychiater(!) inschakelt sla je de plank enorm mis.