Forum Clubic

Commentaires : Twitter : l’algorithme de recadrage des images était bel et bien biaisé

Après avoir mené des tests, Twitter a conclu que son algorithme présentait bien des biais lors de son choix pour le recadrage des images.

Un algorithme ne peut pas être biaisé, il ne fait que ce qu’on lui demande de faire. Apres c’est surement une façon de parler, mais il ne faut surtout pas minimiser la participation de l’humain dans ces résultats (volontaires ou non).

2 J'aime

ou alors, du machine learning qui apprend des biais des gens

Un algo ne fait pas seulement ce qu’on lui demande de faire, il fait aussi ce qui n’est pas mécaniquement prévisible, il se détourne parfois des objectifs initiaux pour se comporter d’une manière tantôt imprévisible, tantôt imprévues principalement lorsqu’il est lié à une grande dimensionnalité, de grands ensemble de données, qu’il soit ou pas lié à des techniques d’intelligence floues ou déterministes : c’est le bug.

Sans trop m’avancer car je ne suis pas ingé chez Twitter, je suppose que l’algorithme a simplement analysé que une « majorité » de photos postées étaient des femmes blanches, ce qui explique le phénomène.
Après certains pourront toujours prétendre à une IA volontairement discriminatoire …

On s’est bien fait biaiser.

2 J'aime

Un algorithme ne peut pas être biaisé, il ne fait que ce qu’on lui demande de faire.

Oui, enfin, ça c’était dans le temps. A l’époque révolue ou l’on comprenait le code qu’on écrivait.

Aujourd’hui, l’informatique, c’est juste un stagiaire qui va pécher un bout de code sur le web.

Et quand il voit qu’en trifouillant un peu ça à l’air de fonctionner, c’est emballé et pesé.

Ne lui demande pas comment l’algo fonctionne car rien ne prouve qu’il se posera la question un jour.

1 J'aime

Le retour du " C’était mieux avant " … J’imagine le stagiaire qui va aller installer un algo dans Twitter, après l’avoir récupéré sur le site du club d’informatique de Bouriotte-Bergonce :smiley:

Le retour du " C’était mieux avant " … J’imagine le stagiaire qui va aller installer un algo dans Twitter, après l’avoir récupéré sur le site du club d’informatique de Bouriotte-Bergonce

Aujourd’hui ça ne choquerait personne.

Ce qu’on demande à l’informaticien de nos jours, c’est d’assembler des fonctionnalités de haut niveau dans le temps le plus réduit possible.

Et on s’accommode des quelques conséquences parce qu’on sait pertinemment qu’on ne peut pas avoir en même temps le beurre et l’argent du beurre.

1 J'aime