OpenAI réorganise son équipe Model Behavior, responsable de la personnalité de ChatGPT. Cette équipe de 14 chercheurs rejoint désormais l’équipe Post Training, plus large, pour intégrer directement le comportement dans le développement des modèles.
Chez l’humain, il y a des gens bien, sympas et de sacrés cons.
Je me demande s’il y aura le même chose chez l’IA.
Ils auront beau ajouter tout un tas d’algorithmes, l’empathie échappe aux robots. Les cas de suicides assistés par IA, qui commencent à se compter, seront juste moins voyants. Surtout avec des ados qui confondent l’IA avec des amis.
Les sociétés d’IA génératives cherchent plutôt à se couvrir. Même les humains à la tête de ces entreprises d’IA n’ont aucune éthique, autant demander à un serial killer d’être gentil avec ses victimes.
Une IA générative ne sait pas faire la différence entre « des gens bien, sympas et de sacrés cons ». Elle n’a pas plus de discernement qu’un algorithme de complétion de texte.
1 « J'aime »
Je sais bien que c’est juste une question d’algorisme et d’informatique.
Mais comme les gens pignent parce qu’il a perdu sa personnalité, je supposais qu’il pouvait en avoir une sympa ou con (ou beauf 
)