Ideen om, at politiet forudsiger kriminalitet for bedre at forhindre den, har været en trippy - og moralsk bankerot - sci-fi plotline i årevis. Men nu vender et program i Australien denne Philip K Dickian mareridt ind i en skræmmende virkelighed.
En ny rapport fra Youth Justice Coalition tager et dybt kig på New South Wales Polices mistænkte målretning Management Plan (STMP), som er et risikovurderingsværktøj, der bruger en algoritme til at bestemme, hvor sandsynligt det er, at nogen forpligter sig en forbrydelse. Programmet er beregnet til at forhindre fremtidige forbrydelser i at opstå ved at sætte fokus på gentagne lovovertrædere eller endda nogen, som algoritmen bestemmer kan gøre noget ulovligt.
STMP har åbenbart skabte megen polemik for dets forebyggende kriminalitetsbekæmpelse, især da folk opdagede, at den algoritme, den bruger, kan markere børn helt ned til 11 år. Denne algoritme vækker også splittelse, da den bestemmer, hvor sandsynligt nogen er begå en forbrydelse og derefter mærke dem i kategorierne ekstrem risiko, høj risiko, medium risiko eller lav risiko. Denne bekymrende udvikling bliver kun værre, da det blev opdaget, at kriterierne for, hvad der præcist gør en person til en "ekstrem risiko", ikke i øjeblikket er tilgængelige for offentligheden.
For at nogen kan spores af STMP, skal de være "nomineret" af politiet. Og ikke overraskende har et uforholdsmæssigt stort antal nominerede personer været yngre end 18 år. I betragtning af at politiet er begyndt at bruge STMP-programmet til at begrunde mistanke i stedet for "rimelig grund til mistænkelig", at blive stemplet af dette program kunne straks gøre nogens liv til et helvede, selvom de intet har gjort forkert. I en meget bekymrende sag blev en 16-årig stoppet og ransaget af politiet, fordi STMP konkluderede, at "ung folk, der stiger på den sidste vogn af et tog og bærer Nautica, er kendt for at begå skader (graffiti)."
Heldigvis, Youth Justice Coalitionen tager allerede skridt til at forhindre denne futuristiske politicomputer i at chikanere flere børn. Rapporten fra gruppen opfordrede til en gennemgang af STMP af Law Enforcement Conduct Commission, som er en uafhængig gruppe dedikeret til at sikre, at politiets adfærd er op til standarder. De anmodede også NSW-politiet om at holde op med at bruge STMP for personer under 18 år.
