Le gouvernement britannique investit dans la recherche pour développer des systèmes d’intelligence artificielle capables d’anticiper les crimes violents, en particulier les meurtres et les agressions au couteau. Une démarche qui évoque immédiatement le film « Minority Report » et soulève de sérieuses interrogations sur les risques de biais algorithmiques, la surveillance et les libertés civiles.
Ça n’a rien à voir avec minority report : dans le film on risque d’être condamné sur une prédiction de l’ia alors que là il s’agit de faire des contrôles ; si l’ia se « plante », les policiers n’ont pas fait des contrôles au bon moment ou au bon endroit, mais c’est exactement comme « avant l’ia »
en meme 20% des individus ( la pluspart connus des services de police) creent 80% de la délinquance
1 « J'aime »
Je doute que la police se déplace juste à titre préventif. Il y a déjà la BAC pour ça en faisant de la surveillance rapprochée en tenue civil. Elle procède à des interpellations de personnes en possession de drogues et armes en tout genre avec une incarcération à l’issue de la procédure. La BAC a du flair.
L’ia predictive a déjà été testée et abandonnée par la police américaine.
Comme cette ia se base sur les chiffres passés, elle récupère les biais racistes des policiers.
L’ia envoyait les flics uniquement arrêter des noirs uniquement et le taux de faux positifs était énorme.
A los angeles Operation LASER en 2019 et PredPol en 2020 ont été rapidement abandonnés
Si, c’est juste la première étape vers ça!
Si ça marche pas trop mal avec une diminution des problèmes, il y a de grandes chances pour que l’IA soit utilisée pour désigner des personnes précises à surveiller. Si encore une fois il y a un « gain », l’étape suivante sera l’incarcération automatique…
Et là on est pile dans Minority Report, l’IA étant tout aussi obscure que les médiums du film.
On parle de Londres. Ont-ils l’équivalent?
L’IA aussi, et même de bien meilleure qualité car plus de paramètres sont pris en compte par rapport à l’intuition des flics qui est une expérience « locale ».
Bon, les flics peuvent probablement expliquer pourquoi ils ont eu cette intuition, alors l’IA ne le peut probablement pas, ça change aussi pas mal de choses…
Les biais via le délit de faciès rapportés plus haut avec l’expérience américaine peut être valables en France aussi. C’est éventuellement avec ces biais que les IA policières peuvent être entrainés.
Là on est sur le problème de la qualité des entraînements des IAs. De bons data scientists (!) savent éviter ces écueils… Normalement…
« Comme cette ia se base sur les chiffres passés, elle récupère les biais racistes des policiers. »
Vous sous-entendez quoi exactement ?
Que les policiers sont des racistes qui falsifient la réalité, en remplaçant par exemple dans leur rapport un voleur polonais catholique par un voleur italien juif ?
Les policiers ont tendance à beaucoup plus contrôler les personnes racisées.
Ça a même fait l’objet d’un rapport du Défenseur des droits il y a quelques années, dans lequel il pointait du doigt le fait qu’il y avait carrément des consignes en ce sens… Et je précise avant tout dégainage de « gauchiasse », « woke » ou autre ânerie du genre que le Défenseur des droits en question était Jacques Toubon, qui a fait toute sa carrière politique à droite, au RPR puis à l’UMP, député sous cette étiquette à de multiples reprises, ministre sous Balladur et Juppé…
Ce qui du coup augmente mécaniquement leur proportion dans la petite délinquance, celle qui justement peut être détectée par des contrôles « aléatoires ».
Ça a également fait l’objet de plusieurs livres, notamment de Valentin Gendrot, un journaliste qui s’était fait embaucher dans la police.
C’est le principe de la voyance, qui se fonde sur disons 50% de psychologie et le reste en calcul de probabilités logiques (avec côté consultant.es un effet Barnum bien connu des débunkers du « paranormal », observable dans l’astrologie, la numérologie et autres fadaises.
L’IA va intégrer de la stat’ et nous révéler qu’il y a plus de chances que soient perpétrés des crimes entre narcotrafiquants à la Courneuve qu’à Monaco où l’IA nous prédira que l’environnement est favorable au blanchiment de capitaux. Ce qu’on sait déjà.
A la limite, on pourrait même imaginer, si ce n’est déjà fait, une IA prédisant l’avenir. Comment évoluera tel pays, quel potentiel de conflit entre tel pays et tel autre, où auront lieu des tremblements de terre, des éruptions volcaniques, risques de méga-feux, etc.
Hors des éventuelles prévisions sismologiques (qui existent déjà), on peut renvoyer ces prédictions « humaines » à leur conséquence connue, qui sont les phénomènes dits de prophéties auto-réalisatrices décrites au siècle dernier par un certain Bourdieu. Si tu prédis que tel gamin issu d’une famille nombreuse racisée habitant une banlieue pourrie a plus de chances de devenir un délinquant qu’un capitaine d’industrie, il y a des chances que cette prédiction joue sur le devenir de l’intéressé.
Ça c’est un autre sujet.
Ma question était de savoir si les rapports de police sont falsifiés ou pas. Si les policiers traduisent la réalité des faits, que par exemple ma puissante alfa avait été volée tel samedi soir sur tel parking et retrouvée brûlée dans tel quartier après avoir servi pour braquer telle bijouterie, alors ces faits sont objectifs et peuvent être exploités par une ia pour aider la police.
Dans mon cas, entre le moment où j’ai porté plainte et le moment où ils ont retrouvé sa carcasse, les policiers savaient que mon type de véhicule (grosses propulsions avec attache remorque) servait de voiture bélier pour arracher les grilles des boutiques, qu’il y allait donc probablement avoir un braquage, mais ils ne savaient pas où et ne pouvaient pas surveiller toute la ville. Une ia aurait peut-être pu les aider à arrêter les voleurs.
Oui, mais il peut y avoir des biais sans que ça soit falsifié volontairement… Si par exemple tu contrôles dix fois plus les personnes racisées, tu vas détecter beaucoup plus d’infractions chez les personnes racisées que chez les non racisées. Et du coup même en faisant des rapports parfaitement factuels, tu te retrouves avec un biais dans les statistiques construites sur la base de ces rapports.
Dès lors que tu cibles plus fortement une certaine population dans les contrôles, tu auras forcément une surreprésentation dans les statistiques. Et c’est valable pour tous les ciblage d’ailleurs, pas que ceux aux faciès. Si par exemple tu demandes aux équipes d’être particulièrement attentifs aux motos lors des contrôles routiers, et à celles d’un autre secteur d’être particulièrement attentifs aux cyclistes, quand tu regarderas les statistiques à la fin, tu va croire que dans le premier secteur ce sont les motards qui respectent le moins les règles, alors que dans le second ce sont les cyclistes…
Et comme on maîtrise trèèèès mal le fonctionnement interne des IA, ces biais peuvent ensuite tout a fait ressortir même sur des délits et crimes plus graves (ceux sur lesquels on ne tombe généralement pas par hasard au gré d’un contrôle au facies).
Je ne sous entend rien, c’est les conclusions de la police de Los Angeles.
Et oui la police américaine s’est concentré presque exclusivement sur les noirs pendant des années donc l’apprentissage des affaires passées est forcément biaisé.
Pour ajouter quelques exemples de crimes, on ne pourra jamais prévoir les crimes familiaux en général pourtant extrêmement nombreux entre les crimes conjugaux, les infanticides et les crimes sur ascendants ou fratricides.
Parmi ces exemples il y en a un qui me révolte un peu, ce sont les infanticides qui peuvent être évités par décision de justice. Je m’explique : quand une mère a déjà commis un infanticide, a été internée 12 ans pour ce fait et qu’elle se retrouve enceinte à l’issue de son l’hospitalisation, on devrait lui retirer la garde de l’enfant d’office, sur signalement des services sociaux et décision de justice. Or quelque soit la situation, la justice laisse toujours la garde de l’enfant à la mère en cause. Même chose pour les viols sur mineurs de 15 ans et les corruptions de mineurs. Quand les premières victimes ont été placées, les enfants à naitre suivants sont laissés à la mère pathogène quand même tant qu’il n’y a pas de faits avérés de récidives. Alors que c’est tout ce qu’il y a de plus prévisible, ce genre de récidives.
J’aime bien les rubriques des faits divers.
Euh pour le coup, vu le nombre de fois où une femme victime de son conjoint avait déjà posé un grand nombre de mains courantes, voire de plaintes à son encontre, c’est probablement bien plus prévisibles que les infanticides…
Evidemment mais quand il faut développer, on se dit qu’on a pas le temps. Heureusement pour ces femmes victimes de violences de nouvelles dispositions permettent à ces femmes une mise à distance du conjoint par précaution: il doit quitter le domicile définitivement sur décision de justice. Il y en a qui peuvent se défendre et malheureusement d’autres non quand les circonstances sont trop brutales et impulsives.
Incarcération à l’issue de la procédure: malheureusement pas toujours !
La garde à vue est certaine mais ensuite un juge peut saboter le travail de fourmi de la police en mettant en liberté provisoire le criminel, qui voit là un blanc seing pour recommencer à la première occasion.
1 « J'aime »
Un gang de dealers a racketté commerçants et restaurateurs dans ma ville, avec dans deux cas, violences exercées et séquestration. Ils étaient sept, à l’exception d’un seul, tous ont été relâchés, malgré une lénifiante conférence de presse tenue par le préfet, le chef de l flicaille locale et la mairesse du bled.
1 « J'aime »