L'idée que la police prédise le crime afin de mieux le prévenir est une intrigue de science-fiction trippante – et moralement en faillite – depuis des années. Mais maintenant, un programme en Australie transforme ce Philip K Dickian cauchemar dans une réalité effrayante.
Un nouveau rapport de la Youth Justice Coalition examine en profondeur le ciblage des suspects de la police de la Nouvelle-Galles du Sud Plan de gestion (STMP), qui est un outil d'évaluation des risques qui utilise un algorithme pour déterminer la probabilité qu'une personne s'engage un crime. Le programme vise à empêcher que de futurs crimes ne se produisent en mettant l'accent sur les récidivistes ou même sur toute personne dont l'algorithme détermine qu'elle pourrait faire quelque chose d'illégal.
STMP a évidemment a suscité beaucoup de polémique pour ses mesures préventives de lutte contre le crime, en particulier lorsque les gens ont découvert que l'algorithme qu'il utilise peut marquer des enfants aussi jeunes que 11 ans. Cet algorithme suscite également une certaine division, car il détermine la probabilité qu'une personne commettre un crime, puis les classer dans les catégories de risque extrême, risque élevé, risque moyen ou faible risque. Cette évolution troublante n'a fait qu'empirer lorsqu'il a été découvert que les critères permettant de définir exactement ce qui fait d'une personne un « risque extrême » n'est actuellement pas accessible au public.
Pour qu'une personne soit suivie par STMP, elle doit être « désignée » par la police. Et, sans surprise, un nombre disproportionné de personnes nommées ont moins de 18 ans. Considérant que la police a commencé à utiliser le programme STMP pour justifier des soupçons au lieu de « motifs raisonnables de suspect », être étiqueté par ce programme pourrait immédiatement faire de la vie de quelqu'un un enfer, même s'il n'a rien fait tort. Dans un cas très troublant, un adolescent de 16 ans a été arrêté et fouillé par la police parce que STMP a conclu que « un jeune les personnes qui montent dans la dernière voiture d'un train et portent du Nautica sont connues pour commettre des dommages-intérêts criminels (graffiti)."
Heureusement, la Coalition pour la justice pour les jeunes prend déjà des mesures pour empêcher cet ordinateur de police futuriste de harceler d'autres enfants. Le rapport du groupe a appelé à un examen du STMP par la Law Enforcement Conduct Commission, qui est un groupe indépendant dédié à s'assurer que la conduite de la police est conforme aux normes. Ils ont également demandé à la police de NSW de cesser d'utiliser STMP pour les personnes de moins de 18 ans.
