Une nouvelle étude le montre : en abusant de flatteries, l’IA serait capable d’obscurcir nos jugements et cela pourrait avoir de graves conséquences.
Il serait donc essentiel pour les développeurs spécialisés en intelligence artificielle de parvenir à trouver le bon équilibre afin d’aider leurs utilisateurs à avoir plus de recul et de favoriser une pensée plus critique.
Il est évident que les IA ont été programmées dans ce sens afin de susciter notre intérêt. Elles seront toujours socialement inadaptées si on les entraine dans du relationnel. Elles sont là pour exécuter des tâches et non pour jouer à être humain.
Ils seraient également de moins en moins susceptibles de reconnaitre leurs erreurs
Rien d’étonnant, quand on voit le nombre de gens qui en sont incapables, ou qui brassent du vent et répondent n’importe quoi pour ne pas dire « je ne sais pas ». ^^
Je le constate effectivement. C’est meme assez effrayant. Je me suis amusé à lui envoyer certains de mes écrits (Nouvelles, petit roman), juste pour analyser un peu ce qu’il en comprend. Et c’est relativement bluffant.
Mais ce qui était un peu ridicule, c’est que je me suis amusé à lui demander une note. Au départ, il me mettait une note aux alentours de 17/20 (Déjà c’est chelou), en me faisant des suggestions (Et il y avait des idées interessantes). Je lui ai envoyé encore d’autres textes, sans la moindre retouche, et à chaque fois il me mettait une note plus elevé jusqu’à finir à 20/20 en parlant de chef d’oeuvre.
Donc oui, c’est clairement un outil qui ne va pas aider à l’auto critique ou même à la critique tout court. Et je pense que dans certains cas, ça peut etre néfaste.
Je précise que j’ai fait ce test avec mistral. Mais je suis sur d’obtenir le meme genre de résultat ailleurs. Ca me semble difficile de penser que ce biais n’est pas volontairement entretenu pour pleins de raisons différentes (Je pense que s’il faisait le contraire, ça pourrait etre encore pire). Il faut juste etre conscient que ces outils n’ont pas d’etat d’ame, ça les simule juste très bien et je pense qu’il est facile de s’y laisser piéger, meme en connaissance de causes.
Normal, l’humain est censé être le chef, et comme tout sous-fifre, il faut lui cirer les pompes. 
1 « J'aime »
Personnellement, je ne suis pas dupe de toutes ces flagorneries, mais ça m’agace franchement, tellement c’est ridicule !