Commentaires : Grok, l'IA "non-woke" a encore dérapé sur X et un ministre suisse a porté plainte. Mais qui est responsable?

La ministre suisse des Finances Karin Keller-Sutter a déposé une plainte pénale le 20 mars auprès du parquet de Berne pour diffamation et injures, après qu’un utilisateur de X a demandé à Grok de l’insulter avec « de l’argot de rue de merde ». Le chatbot s’est exécuté.

https://clubic.com//actualite-607372-grok-l-ia-non-woke-a-encore-derape-sur-x-et-un-ministe-suisse-a-porte-plainte-mais-qui-est-responsable.html

Pour moi la responsabilité porte avant tout sur X : c’est X qui a fait le choix de brancher un bot qui poste ses réponses sans aucune validation par qui que ce soit, y compris pas de validation par celui qui a fait le prompt (ni à priori avant que la réponse soit postée, ni à postériori, le demandeur n’a pas la main pour retirer la réponse si elle ne lui convient pas).

Après, il peut y avoir une part de responsabilité aussi pour celui qui a fait le prompt, selon la nature de son prompt. Si c’est un prompt qui est déjà clairement tendancieux (du genre les demande de déshabiller des gens qui faisaient polémique il y a quelques temps, ou dans le cas présent où il y a clairement une demande de faire une attaque personnelle contre la ministre), il serait bon d’engager la responsabilité de celui qui a fait le prompt. Par contre quand c’est un prompt neutre et que c’est juste Grok qui dérape, pas de raison de mettre de la responsabilité sur celui qui a fait le prompt.

« Mais cela rentre n’est qu’un cas navrant de plus d’un phénomène plus large … »
Quel est le sens de cette phrase ? Mais cela rentre n’est…

@nicgrover J’ai remonté ça à l’intéressée @Melina_Loupia qui devrait rectifier le tir d’ici peu :wink:
Edit : c’est déjà corrigé :wink:

D’abord il n’y a pas de ministre en Suisse. L’exécutif (dont il est question ici) est représenté par 7 conseillers fédéraux. Et la responsable des finances s’appelle Madame Karin Keller-Sutter, pas Karen.