France Travail expérimente un algorithme chargé, en pratique, de trier les « bons » des « mauvais » chômeurs. Déjà testé sur 7 000 dossiers, l’outil doit industrialiser les contrôles et pourrait concerner plus de six millions d’inscrits.
Toujours compliqué d’industrialiser un sujet comme ça, il faudrait aussi qu’une part de « pur aléatoire » s’intègre dans pour avoir un échantillon représentatif et qu’on ne soit pas dans la prophétie autoréalisatrice.
1 « J'aime »
Tant que la prise de décision reste humaine, je ne vois pas où est le problème avec ce genre d’outil. Soit il est super performant et ça réduira la charge de travail des agents sur les contrôles, lesquels deviendront plus efficaces et moins chronophages.
Soit il commet des erreurs et alors quoi ? Des gens seront contrôlés, on ne trouvera rien à leur reprocher et ça permettra de voir où l’IA a m*rdé et peut-être alors de l’améliorer.
Si tout le monde se sent offensé parce qu’il ou elle a été désigné(e) par l’IA, c’est sûr ça ne va pas permettre d’avancer.
Ils feraient mieux d’utiliser l’IA pour réorganiser la section « temps de travail » dans la page de recherche d’annonces, de manière à ce que seul reste « temps plein » et « temps partiel », et que ce « non répertorié » dégage.
C’est dit dans l’article
En gros, le défaut connu quand on utilise trop d’IA, on finit par lui faire confiance sans vérifier/relire les compte-rendus. Ici, c’est plus grave car cela concerne des humains. Si l’IA a classé la personne en suspect, alors c’est qu’elle est coupable : je ne dis pas que c’est vrai, mais c’est comme cela que le contrôleur va la voir.
Ben non, on poussera plus loin l’investigation pour trouver pourquoi ces personnes sont suspectes.
L’IA quand c’est pour écrire des textes, c’est gentil, pour coder des sites internet c’est pratique, quand c’est pour décider de la vie des gens, cela doit poser des questions.
Les humains font exactement la même chose, tout le monde fonctionne sur la base de profils pré-établis et de préjugés (avérés ou non). Les gendarmes ne font pas de contrôles « au hasard », les entretiens d’embauche, les rencarts amoureux, tout se base sur de la discrimination à un moment ou à un autre. La seule différence avec l’IA, c’est qu’elle est moins hypocrite.
1 « J'aime »
Le problème, c’est que l’IA va avoir des biais que l’humain ne détectera probablement pas.
Un exemple caricatural: une personne très frêle se voit proposer 3 fois de suite un poste de manutentionnaire dans un entrepôt, bien sûr les entretiens ne donnent rien de bon. L’IA peut en déduire que les personnes frêles ne sont problématiques et déclencher des « enquêtes » qui seront bouclées sans analyse poussée (le problème ne vient pas de ces personnes mais de la sélection de l’ANPE).
Mon fils est handicapé, et il a été radié plusieurs fois pour manque de motivation en entretien alors qu’évidemment les employeurs n’ont logiquement pas donné suite à des entretiens pour des postes absolument impossibles pour lui. Pourtant à chaque fois il a droit à la lettre type « après étude attentive de votre dossier, il apparait que vous n’avez pas l’implication suffisante gnagnagna ». Après France Travail quand vous n’avez pas / plus droit aux allocations chômage, ça ne sert absolument à rien…
On ne prend pas un manchot pour taper à la machine ou tétraplégique pour courir un 100m, mais ça une IA ne le sait pas…
Sur les préjugés oui, mais l’IA en a encore plus de biais et un manque total de contexte. Une personne contextualise et a plus de références, elle doit (devrait!) avoir un meilleur jugement. Et comme l’IA sera là pour « soulager » les agents débordés, pas sûrs que les humains entrent vraiment dans la boucle. Une utilisation de pré-tri est effectivement intéressante, mais c’est juste pour améliorer le ciblage. On voit bien partout que c’est surtout dans une tentative de remplacement des humains (ou au mieux de béquille technique pour soulager des problèmes de fond) que l’IA est utilisée.
Je conçois tout ce que tu dis. C’est pour ça que la phrase la plus importante de ma première intervention était : « Tant que la prise de décision reste humaine […] ».
Le plus grand danger de l’utilisation de l’IA, ce n’est pas qu’elle mène à la discrimination. Le plus grand danger c’est que, comme tu l’as souligné, l’humain s’en remette totalement à l’IA pour assurer la partie du travail qui lui est normalement échue.
Toute la controverse autour de l’IA n’a plus lieu d’être du moment qu’on s’en sert comme un outil. Les problèmes apparaissent quand on l’élève au statut d’acteur décisionnaire (et pire encore, au niveau d’acteur décisionnaire infaillible).
1 « J'aime »
Sauf que justement, si la liste traitée par l’humain est elle-même biaisée, son résultat sera biaisé malgré toute sa bonne volonté et sa compétence.
L’agent va peut-être pas envoyer de contrôles inutiles, mais il va surtout ne pas envoyer de contrôle utile vers ceux qui sont pas sur la liste.
Et là où c’est encore plus tordu, c’est qu’il va éventuellement sur-performer sur l’identification des fraudes en pourcentage de réussite, donc tout le monde va applaudir, mais il y aura peut-être un vivier 2 fois plus gros à côté que l’IA va jamais lui faire découvrir.
Le pire scénario c’est : l’agent se contente de la liste fournie par l’IA, effectue uniquement des contrôles sur cette liste, obtient quelques succès qui augmentent ses stats, tout le monde s’extasie et on continue joyeusement dans cette logique spécieuse.
Normalement ça devrait être : l’agent réceptionne la liste fournie par l’IA, la compare avec sa propre liste et effectue en priorité des contrôles sur les éléments communs aux 2 listes ; il s’interroge ensuite sur l’absence d’éléments qui figurent sur sa liste et pas celle de l’IA et vice versa ; il confronte les éléments qu’il a lui même recensés et pas l’IA, pour savoir pourquoi l’IA ne les a pas retenus ; il confronte les éléments recensés par l’IA qui ne figurent pas sur sa liste, pour savoir pourquoi l’IA les avait retenus.
On me dira que c’est horriblement chronophage. Oui, tout autant que lorsque le travail est effectué par l’agent seul. À cette différence près que les résultats seront plus objectifs. Gain de temps, non ; efficacité accrue, oui.
1 « J'aime »
On est bien d’accord qu’il y a bien des solutions, juste qu’on s’attend pas à ce que ça se passe comme ça.
Scénario probable : ça conviendra « au chef » parce qu’il y aura un taux de fraude détecté supérieur, et au salarié parce que ça sera moins chronophage pour lui.
Autre scénario probable : celui qui veut fonctionner comme ça se tapera une remarque pour signaler qu’il est moins productif que ses collègues.
2 « J'aime »