La police de Chicago abandonne son système de précrime


  • Admin

    Après 8 ans de mauvais mais loyaux services, le système TRAP utilisé par la police de Chicago va prendre sa retraite. Il cherchait à réduire la criminalité en identifiant à l’avance les personnes les plus susceptibles de commettre des infractions.

    En 2002 sortait un film qui allait faire beaucoup parler de lui : Minority Report. Adaptation du roman du célèbre auteur de science-fiction Philip K. Dick, le film de Spielberg allait populariser auprès de toute une génération la notion de “précrime.” Une méthode de maintien de l’ordre bien particulière qui consiste à arrêter un criminel avant que le crime ne soit commis.

    10 ans plus tard en 2012, la police de Chicago adoptait un système qui se rapprochait dangereusement du futur dystopique imaginé par Philip K. Dick avant de l’abandonner il y a quelques jours comme l’explique BoingBoing. Le système appelé “TRAP” (pour Targeted Repeat-Offender Apprehension Program ou “programme ciblé d’appréhension des récidivistes” en bon français) assignait un “score de dangerosité” à tous les Chicagolais ou Chicagolaises qui avaient déjà eu des problèmes avec la police. L’idée était d’essayer de ficher les personnes les plus à même de commettre d’autres crimes après une première interpellation.

    Petit problème, comme l’a souligné un rapport cinglant de l’inspecteur général de Chicago, ce système était truffé d’erreurs et ne réduisait en rien le nombre de crimes dans la ville. Le système encourageait le profilage racial puisqu’il se reposait sur des algorithmes biaisés comme la plupart des programmes de ce type. Même Google et IBM l’ont reconnu, les algorithmes reproduisent et amplifient les discriminations ayant lieu dans le monde réel.

    Un cercle vicieux

    Pire encore, même lorsque les tribunaux classaient l’affaire sans suite, le score TRAP augmentait quand même. Les biais policiers venaient donc nourrir un système qui ensuite s’acharnait sur les individus concernés puisqu’une interpellation avait plus de chance de se finir en arrestation lorsque le score de “dangerosité” était haut. Et comme une arrestation faisait augmenter le score, le cercle vicieux était lancé.

    A lire également : La Quadrature du Net s’attaque à la Technopolice, “outil ultime de surveillance de la population” Depuis presque dix ans, les grands centres urbains se métamorphosent avec l’aide des nouvelles technologies. Vidéosurveillance, reconnaissance faciale et big data sont autant d’outils qui témoignent d’une dérive sécuritaire selon la Quadrature du Net.

    Source : lesnumeriques.



  • @Ratonhnhakéton Oui avec toutes ce technologies ont oublie les facteurs humains. Un policier qui connait un quartier et ses individus sera mieux à même d’évaluer l’instant T.
    Et aucun logiciel ne peut prédire un passage à l’acte qui est un moment intime d’une personne.
    Au final ça stigmatise toujours les même



  • @Ratonhnhakéton a dit dans La police de Chicago abandonne son système de précrime :

    Le système appelé “TRAP” (pour Targeted Repeat-Offender Apprehension Program ou “programme ciblé d’appréhension des récidivistes” en bon français)

    text alternatif



  • J’ai déjà entendu causer de ce logiciel à la con. Mais Chicago restera toujours Chicago ! :farwest2:


  • Animateurs

    En gros, leur logiciel est pourri quoi, je trouve pas ça trop mal comme système en soi.



  • @Mahonia a dit dans La police de Chicago abandonne son système de précrime :

    En gros, leur logiciel est pourri quoi, je trouve pas ça trop mal comme système en soi.

    Il n’y avait pas que leur logiciel de pourri mais tout le principe de base, lequel reposait sur des algorithmes biaisés.


  • Animateurs

    @Peri Faudrait mettre Sam Morton dans un bassin pour les aider.
    Tient, j’ai bien envie de me le refaire.


Log in to reply