Commentaires : Les IA ne font pas qu’imiter le langage, elles reproduisent aussi les mêmes préjugés

Une étude récente montre que les femmes utilisent l’IA au travail moins souvent que les hommes et en reçoivent moins de crédit. Et l’Organisation internationale du Travail estime que leurs métiers sont presque deux fois plus menacés par l’automatisation.

https://clubic.com//actualite-607384-les-ia-ne-font-pas-qu-imiter-le-langage-elles-reproduisent-aussi-les-memes-prejuges.html

Seulement 14 % des postes de direction dans les entreprises spécialisées en IA sont occupés par des femmes, ce qui influe directement sur les données d’entraînement et les choix de conception.

C’est-à-dire ? En quoi ça influe directement ? Ça voudrait dire que les types de données sont « genrés » ? Les choix de conception idem ? Qu’il y a une approche féminine / masculine du traitement des données ? Qu’un homme ne peut penser / programmer que comme un homme et une femme que comme une femme ?

Des chercheurs de Stanford ont montré que ChatGPT associe des pronoms masculins au terme « programmeur » dans 83 % des cas, et féminins à « infirmière » dans 91 % et même quand on lui demande explicitement d’éviter ces raccourcis.

Sauf quand c’est explicitement spécifié ce n’est que représentatif de la réalité :sweat_smile:

Il serait bon de préciser que l’échantillon interrogé est au US, je serai curieux de voir les réponses à ce sondage en France, en Europe , en Chine…

1 « J'aime »