ChatGPT sait reconnaître les stéréotypes sexistes dans ses propres images. Mais sait-il les corriger ? Après cinq tentatives infructueuses pour me représenter, j’ai voulu comprendre pourquoi l’IA persistait à reproduire le même portrait.
Une expérience édifiante, qui m’aura fait pleurer des larmes de sang.
3 « J'aime »
"Pour une technologie censée élargir le champ des possibles, voilà qui paraît singulièrement étroit. "
Ce ne serait pas plutôt « pour une technologie qu’on veut à tout prix être rentable mieux vaut être pour elle rester dans les standart et vous donner ce que la majorité veut. »
Ce n’est qu’un algorithme à apprentissage bourré d’un magma informe de données volées sur la toile et pour la plupart, sinon toutes, non triées conçu de plus pour vous séduire afin de vous faire raquer si possible.
Ce qui est merveilleux c’est « Après des années à converser avec lui » vous ne vous soyez jamais aperçue que vous conversiez seule avec un pantin fait pour vous satisfaire.
Franchement cela met quand même un gros doute sur la qualité et la justesse de tout ce que vous avez produit « Après des années à converser avec lui ».
3 « J'aime »
Ben oui, encore une fois, ça ne ressort que ce que ça a appris. Il n’y a aucun sexisme ou autre volonté de voir des clichées là où il n’y en a pas (ça, l’homme le fait très bien tout seul). Bref, c’est également peut-être une vérité froide et mécanique de ce qu’est la société à travers un apprentissage à l’aveugle. Si on lui demande de représenter un mannequin femme, il y a certainement plus de chance que l’IA nous représente une femme grande, élancée, peu de formes et faisant la tête dans un tailleur d’un grand couturier qu’une femme mannequin XXL au faciès de Madame Toutlemonde en tenu de mécano et au sourire authentique. Au final qu’est-ce qui est biaisé ? La représentation que fait une IA de personnes dont sa connaissance a été acquise sur ce qui existe et qui est représenté dans la société de tous les jours ou le fait de vouloir absolument les forcer à produire autre chose en y apportant des « corrections » inclusives ? Le stéréotype n’est t’il pas au final le reflet de ce que pensent réellement les gens et la volonté de vouloir avoir autre chose une illusion de ce qu’on voudrait vraiment ?
2 « J'aime »
Biais j’entends bien. Mais sexiste. Non, à l’image de ce que la femme contemporaine, bien autant que l’homme parce qu’elle a aujourd’hui très souvent pleinement la main, participe à entretenir activement. Dans les milliards de post et vidéos produits et difusés par elle quotidiennement. Dans tous les magazines féminins (aux mains de femmes). Par un très grand, pour ne par écrire le plus grand nombre, de femmes publiques (actrices, « artistes » diverses, productrices de contenus, mannequins …).
Comment un biais peut encore être qualifié de sexiste alors qu’il est aujourd’hui largement le produit des actions du corps qui ce juge, à raison, de façon stéréotypée représenté.
Le ménage n’est, ne devrait pas être à faire du coté de Chat GPT. Mais en amont. Aux sources.
A un alternant qui bossait à produire des visuels avec de tels outils, j’avais fait remarqué à quel point la production était stéréotypée, normée. Mais pas que du coté des sujets féminins.
3 « J'aime »
ChatGPT, programmed by male geeks for male geeks… Pas surprenant si on se souvient du lancement de ChatGPT Omni il y a deux ans. Si vous comprenez l’anglais, allez donc voir ce sketch, il résume parfaitement ce lancement https://youtu.be/9rRK4KPRVEs?is=1GAb4MWHeEJTpT_F 
Mais trêve de plaisanterie, cela m’horrifie la quantité de données personnelles que vous avez ainsi donné à une société américaine au cours des années. A la faillite de Character.Ai, les données personnelles des utilisateurs ont été revendues tous azimuts. Ce n’est pas anodin.
Il devient également urgent que l’on donne des cours sur la manière dont les LLM fonctionne. Après des années de conversations, vous n’avez toujours pas réalisé que les LLM n’ont aucune faculté d’introspection. Ils n’ont aucune idée de comment ils arrivent à une réponse. Demander « pourquoi as tu fait ceci ? » ne fait aucun sens car ils n’en savent rien et généreront une réponse probabiliste à la volée.
Un exemple frappant: des chercheurs ont analysé en détail comment un LLM répondait à une simple question de math du genre combien fait 22+9. En analysant les neurones qui s’activent, ils ont pu observer que le LLM retrouve dans sa mémoire des opérations similaires, par exemple 23+8, 22+10, 21+9 et en déduit une réponse portabiliste, 31. Mais si on lui demande comment il est arrivé à ce c résultat, le répondre va être du genre « j’ai additionné 9 et deux, ce qui donne 11. Je garde le résultat des unités et reporte la dizaine que j’additionne à la vingtaine et j’obtiens ainsi 31. », une réponse de livre de math élémentaire, mais ce n’est pas cela du tout qui s’est passé dans ses neurones.
Il faut arrêter de penser que ces machines pensent comme nous parce qu’elles parlent comme nous. Ce n’est pas du tout le cas.
Pour m’en rappeler, je donne une instruction permanente aux IA que j’utilise de parler comme un robot et de ne montrer aucune émotion d’aucune sorte. C’ est une machine, autant qu’elle parle comme une machine…
5 « J'aime »
j’ai toujours lu que pour avoir le résultat qu’on désire avec un LLM il faut être précis, à partir du moment où on ne précise pas il va faire ce qui est le plus statistiquement probable par rapport à ce sur quoi il a été entraîné. Donc c’est bien beau de demander autre chose, si on ne dit pas ce qu’on veut on risque de tourner en rond !
En parlant de stéréotypes, vous allez trouver ça amusant…ou pas du tout. Parce que lorsque la parution de l’article a été annoncée par la team, j’avais déjà une bonne idée du type de commentaires qu’il allait générer, et sans surprise il y en a effectivement trois dont j’étais certain qu’ils allaient sortir sous l’une ou l’autre forme.
Comme quoi il n’y a pas que les chatbots qui sont alimentés par des données stéréotypées. 
3 « J'aime »
Je trouve cela très courageux, sans parler de la question de la confidentialité des données que l’on « confie » sans s’en douter aux assistants. Mais à qui ou quoi ne le fait-on pas aujourd’hui ? Je parle plutôt de l’effet pervers et dangereux que ce genre d’expérience pourrait provoquer chez des ados par exemple.
De savoir que l’image que nous renvoie une IA n’est pas la sienne, s’y comparer et vouloir lui ressembler, ou bien pire, se dévaloriser parce qu’on ne ressemble pas à ces nouveaux standards de « beauté » et de « fémininté ». Nouveaux car si l’on regarde l’image que ChatGépèt’ lui a « construite », on la voit absolument dans TOUTES les publications qui mettent en scène une femme, la fameuse ménagère de moins de 50 ans de nos anciennes générations. Et on disait pareil des influenceuses d’il y a une petite dizaine d’année, toutes cheveux lissés, yeux de biche et lèvres refaites. Toutes identiques.
Donc plus que du sexisme, dénoncé à juste titre selon moi par l’autrice, il y a une sorte d’éternel recommencement: celui de fabriquer un standard.
3 « J'aime »
L « Intelligence Artificielle » n est qu’un terme marketing bien trouvé et bien survendu: il ne s agit que de " perroquets statistiques", utiles pour beaucoup de tâches, mais certainement pas pour " réfléchir" , « discuter » ou « philosopher »
1 « J'aime »
Et beaucoup d’hommes fonctionnent encore selon ces standards. Inconscience d’être bloqués dans les valeurs qu’on leur a inculquées, influence du milieu familial ou social, manque d’éducation, impossibilité d’évoluer ? Va savoir… 
Dans mon dernier emploi en usine, la responsable de l’outillage et des EPI était une femme, une ancienne opératrice de ligne de production. Elle en savait donc beaucoup plus long sur l’usine et les fabrications que la plupart des ouvriers qui n’étaient pas des opérateurs, mais ça n’empêchait pas que beaucoup se croyaient forcément supérieurs à elle, simplement parce qu’ils étaient des hommes.
Qu’elle ait été opératrice catégorie 7 quand eux végétaient en catégorie 4 ou 5* depuis plusieurs années ne les interpellait même pas, ils refusaient de croire qu’elle puisse être meilleure qu’eux.
*les catégories 4-5-6-7-8 définissaient le niveau de compétence sur diverses lignes de production et aussi le salaire horaire.
2 « J'aime »
d’un autre coté quelle autre sorte de commentaire voulez-vous que génère ce type d’article ?
La personne qui l’a fait « Après des années à converser avec lui » n’a pas l’air d’avoir compris du tout qu’il n’y a pas de « lui » alors effectivement les commentaires ne pouvaient être autre.
Cet article vous est offert par le silicone Carné from Dubaï … 
Je ne vois pas pourquoi apprendre à partir d’exemples empêcherait de raisonner. Tu lui donnes du code que tu viens d’écrire, il trouve un bug et t’explique dans quel cas ça plante. Il s’appuie sur ce qu’il a appris, oui, comme le développeur qui relit ton code. Ça veut pas dire que les deux fonctionnent pareil. Mais l’apprentissage statistique peut aussi porter sur des règles et sur la façon de les appliquer. Pourquoi tu exclus d’avance que certaines des opérations apprises constituent un raisonnement ?
Et pour discuter ou philosopher, pourquoi ça ne conviendrait pas ? Tu défends une idée, le llm t’oppose un cas auquel tu n’avais pas pensé, tu dois revoir ton argument ou préciser ce que tu voulais dire. L’échange a servi à quelque chose. L’objection vient de son apprentissage, ok, mais là encore, comme n’importe quelle personne non ? Quand quelqu’un te répond avec un argument découvert dans un livre, ça reste une discussion. Tu ne vas pas exiger d’une personne avec qui tu débats qu’il invente chaque idée qu’il utilise. Il faut surtout que son objection soit pertinente
Le tien va donc dans le même sens.
La réponse à une question n’est que le résultat de l’entrainement. UN gros paquet d’image qu’il reçoit en entrainement sont image de photo « professionnelle » (photographe, mannequins, maquillages, …) ou de « d’influenceurs.euses » dont le physique compte plus que le reste. Tant que ces images servirons à l’entrainement, les physique imaginatif de GPT ne changera pas.
1 « J'aime »
Alors je ne nie pas le problème de cet article, mais c’est valable pour absolument tout.
Demandez une voiture, elle sera jamais cabossée par défaut ou avec un capot d’une couleur différente.
Demandez pour un homme, même chose il va être plutôt dans les « standards ».
Demandez une affiche pour un événement local, elle sera comme toutes celles qu’on voit en ce moment.
En tout cas j’ai vu cette trend passer sur Facebook, une femme de mes contacts avait un look « bohème » avec des teintes rouges chaleureuses sur sa tenue, la déco, etc. En commentaire, toutes ses amies ont posé la question… et avaient quasiment le même rendu.
C’est quoi un biais sexiste ? L’auteur de l’article ne l’écris pas et si elle l’écrit, je le perçois mal. De plus, le dit biais est si variable selon les humains que je trouve cela trouble. Et puis il y a tout ce qu’on ne dit pas et que l’on cache sous le vocable biais. Enfin un biais peu apparaître en public, hou que c’est vilain (sic). Pendant qu’il fait partie du fonctionnement intime, de l’être de la personne.
Je doute de tout cela quand on en est à changer les titres des livres ou autres travaux sous le prétexte qu’ils sont désormais mauvais.
Quant aux machines, que l’on s’amuse avec elles donne l’illusion qu’elles ne seront jamais maîtresses et ce jour là les humains regretteront d’avoir voulu inventer des fallacieuses appellations pour la promotion de quelques arrivistes néfastes.
Nous pouvons très bien inventer ou savourer nos propres biais sans pour autant que l’on ne doivent pas considérer que l’individu devant nous, soit honnête ou compétent ou totalement l’inverse.
<< Le portrait d’une négresse >> peint au XIX ème siècle ne dit pas que je dis que je méprise le peintre et le modèle, il dit que j’aime ce tableau. Il me semble utile qu’il serait bon d’arrêter les bêtises, d’autant que le racisme est ses corollaires ne sont pas en voie de disparition. Ce qui tendrait à dire que la lutte contre le racisme est ressemblant à celui contre la drogue : un échec qui fait plaisir à certains.