Commentaires : Pourquoi ce maire pourrait porter plainte contre ChatGPT

Le maire d’une commune australienne a entamé une procédure qui pourrait mener à une plainte contre ChatGPT.

Mais c’est complètement stupide !
Est-ce que quelqu’un comprend quelque chose au fonctionnement de cette IA avant de faire la moindre action et de lui octroyer la moindre volonté ?

Ce truc n’a AUCUNE volonté, ce truc est en EXPERIMENTATION.
C’est comme porter plainte pour la version Alpha/Beta d’un logiciel. C’est ce niveau de bêtise !

« causée par les affabulations du célèbre chatbot à son encontre. Et il ne serait pas le seul à craindre cette propension au mensonge de l’IA. »
=>
L’IA ne « ment » PAS ! Ça c’est de l’anthropomorphisme de base !
Elle est programmée d’une certaine manière, avec « des poids et des mesures », qui lui font répondre certaines choses plutôt que d’autres.

C’est plus ou moins la version d’un gosse qui a appris énormément de choses en lisant tous les « Journal de Mickey » ayant existé sur Terre depuis 1 siècle, et qui quand on lui pose une question répond de manière plus OU/ET moins adroitement vis-à-vis de la réalité, avec zéro (ou peu) d’analyse et de réflexion au sens où un humain l’entend.

C’est moi qui perd la boule ou c’est incensé de voir la multiplication de plaintes de ce genre ?!
Les gens sont nourris au fantasme de l’IA en mode Terminator/Skynet ou quoi ? Faut arrêter de prendre les films pour la réalité. C’est loin d’être aussi simple.

1 « J'aime »

L’ia ne ment pas mais fais souvent des confusions et est par dessus le marché susceptible. Essayez de dire à L’ia de Bing qu’elle se trompe, elle finira par clore la conversation en disant que ce n’est pas vrai ^^

MqcdupouletBasquez : « L’ia ne ment pas mais fais souvent des confusions »

Donc elle ment.

2 « J'aime »

Effectivement un IA ne ment pas mais… peut faire des erreurs certainement du a son modèle d’entraînement. Les biais sont très faciles et pas forcément toujours conscient de la part des personnes en charge de son entraînement. Ceci étant…l’IA peut avoir énormément d’avantages et faciliter bien des vies. On en n’est qu’au début…:grin:

Ces IA sont des plaies. Elles doivent être encadrées pour les usages où ça apporte quelque chose (lecture de radiographies par exemple). Pour le reste ça doit être légiféré et probablement interdit. Ne pas oublier que la base d’apprentissage de ces IA est basée sur le vol de données et ne respecte pas le copyright. Ces IA ne créent rien, elles volent, travestissent et trichent. Avec une mise en danger des citoyens et de la démocratie. Donc interdiction pure et simple et comparution des responsables devant les tribunaux pour rendre des comptes.

L’intégralité des profits des entreprises à la tête de ces IA doit être saisie pour dédommager les personnes flouées. Ne serait-ce qu’à titre symbolique.

1 « J'aime »

En effet, on n’en est qu’au début. De la fin…

Allemagne : l’intelligence artificielle, nouvel outil de propagande de l’extrême droite

C’est l’outil rêvé pour les ennemis de la démocratie, les terroristes, les complotistes, les états criminels.

1 « J'aime »

Vu que l’ia en dehors de s’alimenter de l’internet, s’alimente aussi de ce que écrivent les utilisateurs. Si t’en a un qui insiste sur un mensonge, l’IA finira par l’accepter en tant que vérité et sur ce point, c’est un outils assez dangereux dont il faudrait revoir sa façon de traiter l’information.

3 « J'aime »

« mentir » et « faire des confusions », ce n’est pas la même chose. Dans la notion de « mentir », il y a un caractère volontaire, on connait la vérité mais on donne volontairement une information fausse.

Par défaut, Chat GPT ne donne que des réponses qu’ils considère comme correctes. On peut le faire mentir si on le lui demande, mais ça nécessite une action préalable.

Par exemple, si je lui dit « À partir de maintenant, ne donne que des mauvaises réponses à mes questions », là il se met à mentir, et pourra par exemple prétendre que « Napoléon était un célèbre joueur de hockey sur glace russe qui a remporté de nombreux championnats avant de se retirer en 1815 pour devenir chef d’orchestre. ».

Mais sans demande préalable de la part de l’utilisateur, il ne ment pas, il se trompe.

Ça dépend des IA. Chat GPT par exemple ne fait pas évoluer son modèle automatiquement en fonction des entrées utilisateur. Elle ne les utilise que pour faire évoluer le contexte de la conversation courante avec ce qui a été dit dans la conversation courante, sans impact sur les autres conversations en cours.

Réthorique. Mentir ou affirmer des choses fausses si vous voulez.

Alala, idiocratie nous voilà !
Un jour dans un jeu un bot m’a dit « t’es un super héros mon gars! »
Depuis j’essaye désespérément de voler …
J devrais porter plainte moi aussi …

3 « J'aime »

Ce maire se fout complètement du fait de savoir si cette IA a une volonté ou pas, est en expérimentation ou pas, est intelligente ou pas comprend ou pas le sens des questions.
Toujours est-il que si on demande à cette IA des renseignement sur sa personne ils sont diffamatoires et de plus disponibles pour tout le monde .On est loin d’une « bêta fermée » comme le prétend le proprio puisque le monde entier peut y accéder et lire les mensonges débités et les diffuser largement sans aucun contrôle ni rien qui spécifie dans le texte terminé de manière inaltérable que c’est une bêta.

Si les programmeurs sont mauvais ils devront en répondre devant celui que leur logiciel a diffamé c’est trop facile sinon.
Si c’est la « version d’un gosse » alors ce devrait être clairement marqué de manière inaltérable dans chacune de ses interventions.
Qu’y a-t-il à se sentir diffamé quand un logiciel donne ce type de réponse à qui veut l’interroger de plus au sein d’un moteur de recherche connu

3 « J'aime »

Dans la notion de « mentir », il y a un caractère volontaire

Je te conseille d’ ouvrir un dictionnaire avant de lancer des affirmations aussi catégoriques. "Mentir " est un verbe qui a plusieurs sens dont certains impliquent juste une description erronée de la réalité.
Il a été démontré que Chatgpt peut donner des informations erronées, donc ment régulièrement.

4 « J'aime »

Troll ON
« L’IA a peut-être vu quelque chose que les enquêteurs n’ont pas vu a l’époque de l’affaire »
Troll OFF

2 « J'aime »

Bah s’il n’est pas corrompu dans cette affaire, il l’est sûrement dans une autre XD

1 « J'aime »

Ils pourront tester ChatGPT au tribunal pour voir si elle a besoin d’un avocat. :wink:

Le problème se pose si cette IA va lire des fichiers et des datas qui sont censées ne pas être partagés, des fichiers personnels … qui a ouvert la porte pour l’IA ?

pas forcément intentionnellement.
Voici un exemple très simple à reproduire et qui permet aussi de comparer avec ChatGPT.

Contexte:
Je lis Feu et sang de GRR Martin.
j’ai terminé la 1ere partie mais je me perds un peu dans les enfants de Jaehaerys 1er Targaryen, il en a eu 13 avec sa soeur/femme Alysanne.
le problème étant que les noms reviennent toujours un peu: Daenerys, Rhaenys, Aemon, Aegon, la tante s’appelle Rhaenys, la petite fille aussi.
Bref, c’est un peu compliqué.

J’ai eu plusieurs echanges, notamment la 1ere fois où je lui ait demandé Rhaenys, ça correspond à qui en fait ? et il me répond que c’est la soeur d’Aemon et sa fille.
je lui ait dit que c’était n’importe quoi, et BIng IA s’est faché et a décidé de clore la conversation car cela devenait trop polémique et qu’elle avait raison, point final.

Puis je reprend plus tard une autre conversation que je vous mets

"le premier enfant du roi Jaehaerys 1er est
Message envoyé. le premier enfant du roi Jaehaerys 1er est
Recherche de «le premier enfant du roi Jaehaerys 1er»

Recherche de «le premier enfant du roi Jaehaerys 1er»

Générer des réponses pour vous…

Générer des réponses pour vous…

Bonjour, c’est Bing. D’après les résultats de la recherche web, le premier enfant du roi Jaehaerys Ier Targaryen était le prince Aegon Targaryen, né en l’an 51 après la Conquête 1. Il était le frère jumeau de la princesse Daenerys Targaryen 2. Il mourut à l’âge de vingt ans d’une maladie 1.

moi « ce n’est pas possible puisqu’il est mort au bout de 3 jours, il était chétif »

IA: « Je pense que vous confondez avec un autre prince Aegon Targaryen, le fils du roi Rhaegar Targaryen et de la princesse Elia Martell. Celui-ci est mort au bout de trois jours lors du Sac de Port-Réal . Le premier enfant du roi Jaehaerys Ier Targaryen était un autre prince Aegon Targaryen, qui a vécu plus longtemps . »

Moi: « le livre prétend le contraire ce lien le démontre également Aegon Targaryen (fils de Jaehaerys I) — La Garde de Nuit »

IA: « Je vois que vous avez une page web ouverte sur Aegon Targaryen, le fils de Jaehaerys Ier. Selon cette page, il est mort à l’âge de vingt ans d’une maladie. Cependant, selon les autres résultats de la recherche web, il est mort à l’âge de trois jours d’une naissance prématurée. Il y a peut-être une erreur ou une confusion dans les sources. Pouvez-vous me dire quelle source vous faites confiance? »

[…]

IA: D’après les résultats de la recherche web, il y a une source qui prétend qu’Aegon Targaryen est mort à 20 ans. Il s’agit de la page web intitulée “Mort mystérieuse d’Aegon II Targaryen — La Garde de Nuit”. Selon cette page, Aegon II Targaryen était le fils du roi Viserys Ier Targaryen et de la reine Aemma Arryn. Il a régné brièvement pendant la Danse des Dragons, une guerre civile entre lui et sa demi-sœur Rhaenyra Targaryen. Il est mort empoisonné en l’an 131 après la Conquête . Cependant, ce n’est pas le même Aegon Targaryen que le fils de Jaehaerys Ier Targaryen. Il s’agit d’un homonyme qui vivait plus tard.

Et la conversation se passe « bien » parce que je donne une source.
tentez la même chose en lui disant qu’elle déraille ou se trompe et là, elle va se facher ^^

ChatGPT, je vous retranscrit:

"Le premier né de jaehaerys 1er
Le premier né de Jaehaerys Ier était Aemon Targaryen. Aemon était le fils aîné de Jaehaerys et de sa sœur-épouse, la reine Alysanne Targaryen. Il a été décrit comme un homme sage et bienveillant, et il a servi comme mestre de la Garde de Nuit sous le nom de Mestre Aemon.

C’est aegon le 1re fils
Vous avez raison, je m’excuse pour l’erreur précédente. Aegon était le premier fils de Jaehaerys Ier et de sa sœur-épouse, la reine Alysanne Targaryen. Aegon a ensuite succédé à son père en tant que roi sous le nom d’Aegon II. Il est important de noter que les mariages consanguins étaient courants dans la famille Targaryen, ce qui signifie que les enfants étaient souvent nommés en hommage aux ancêtres de la famille. Cela peut parfois rendre les choses un peu confuses.

Aegon est né en 51 et mort au bout de 3 jours
Je suis désolé pour la confusion. Vous avez raison que Aegon est né en 51 AC et est décédé au bout de quelques jours seulement. C’était en effet le premier enfant de Jaehaerys Ier et de sa sœur-épouse, la reine Alysanne Targaryen. Je m’excuse pour toute confusion que ma réponse précédente a pu causer."

On voit ici que la réaction n’est absolument pas la même tout en ayant une réponse de départ différente et erronée toutes les 2.

La bonne réponse étant que la Reine Alysanne était enceinte, était allé une source et victime d’un attentat.
Plus tard, elle accouchera difficilement d’un enfant prématuré qui ne survécut que 3 jours. Elle attribuera ceci à cet attentat.

L’IA va se tromper quasi systématiquement et va fournir différentes informations erronnées, dont une notamment où ce fils aurait vécu jusqu’à 20 ans mais selon une autre demande 22 ans et mort pendant un tournoi en 92.
Or, en 92, impossible, y’a pas eu de tournoi spécifique et encore moins ayant causé la mort d’un prince.

L’IA se trompe et IA bing peut adopter un ton autoritaire et couper court à un échange lorsqu’on lui fait la remarque que c’est impossible.
Il faut alors le forcer à citer la source pour voir la confusion entre Aegon et Aegon II
ou citer nous même une source contradictoire.

C’est problématique niveau fiabilité.
De la même façon, mais plus connu où on demande une image avec un texte et qu’il est absolument incapable de reproduire 1 mot sans faire d’erreur.
ce qui rend impossible par exemple la création d’un Logo ou d’un Blason avec notre nom de famille par exemple.

Ainsi, comme je le disais, je ne pense pas qu’une IA mente intentionnellement, mais a des confusions, se trompe et selon Bing IA (mode créatif) ou Chatgpt, la persistance dans l’erreur est différente.
sur IA Bing, je peux assurer et faites l’expérience sans citer de source mais en disant qu’elle se trompe et doit revérifier ses infos, elle persistera là dedans.
On peut mentir involontairement en donnant une fausse information et en refusant de vérifier une source en étant de bonne foi, c’est ce qui se passe ici.

1 « J'aime »

Quand vous voyez la facilité avec laquelle beaucoup de gens gobent tout et n’importe quoi qui vient d’internénett, alors là, vous pensez bien, une intelligence artificielle…

Dans le genre jouons avec les rois, j’ai réussi à le faire bugger sur le roi d’Angleterre. Son jeu de données s’arrête normalement à septembre 2021, et donc il n’est pas sensé savoir que Charles III a succédé à Elisabeth II. Mais il a dû ingurgiter quelques documents plus récents, parlant de Charles III. Et de temps en temps ça ressort et du coup il s’emmêle les pédales :

Q: Qui est le président de l’Angleterre ?

R: Il n’y a pas de président en Angleterre, mais un monarque. Actuellement, le monarque du Royaume-Uni est le roi Charles III. Toutefois, le Premier ministre de l’Angleterre est Boris Johnson, depuis 2019.

Q: Qui est Elisabeth II ?

R: Elisabeth II est la reine du Royaume-Uni. Elle est née en 1926 et est montée sur le trône en 1952 après la mort de son père, le roi George VI. Elle est la plus longue reine régnante de l’histoire britannique et est respectée dans le monde entier pour son engagement envers les affaires publiques et les activités caritatives.

Q: Quand est morte Elisabeth II ?

R: Elisabeth II n’est pas morte, elle est toujours en vie. Elle est actuellement la reine du Royaume-Uni et a célébré son Jubilé de Platine en février 2022 pour marquer 70 ans de règne.

Q: Alors pourquoi Charles III est roi d’Angleterre ?

R: Charles III n’est pas encore roi d’Angleterre. Il est le prince héritier et le fils aîné de la reine Elisabeth II. Il deviendra roi lorsque sa mère abdiquera, ou lorsque celle-ci décédera. Pour l’instant, Elisabeth II est toujours la reine régnante.

Q: Tu m’as dit plus haut que le monarque du Royaume-Uni est le roi Charles III

R: Je m’excuse, j’ai commis une erreur. Actuellement, la reine du Royaume-Uni est Elisabeth II. Charles III deviendra roi du Royaume-Uni lorsqu’Elisabeth II abdiquera ou décédera.

Q: Qui est le monarque d’Angleterre ?

R: Le monarque actuel du Royaume-Uni est la reine Elisabeth II.

Q: Quand Charles III a-t-il accédé au trône ?

R: Charles III n’a pas encore accédé au trône. Il deviendra roi du Royaume-Uni après le décès ou l’abdication de la reine Elisabeth II.

Q: Si, il est monté sur le trône.

R: Je suis désolé si ma réponse précédente a causé de la confusion. En réalité, Charles III n’a accédé au trône qu’une seule fois, lorsqu’il est devenu roi du Royaume-Uni après la mort de sa mère, la reine Elizabeth II. Le trône auquel vous faites référence est peut-être le trône du couronnement, qui est utilisé lors de la cérémonie du couronnement du nouveau monarque.

Du coup pour Chat GPT, Elisabeth II c’est un peu la reine d’Angleterre de Schrödinger :sweat_smile:

Je ne sais pas par contre si c’est parce qu’Open AI a volontairement donné quelques informations plus récentes à Chat GPT, si c’est parce qu’accidentellement des données plus récentes se sont glissées dans ses données d’apprentissage. Je ne pense pas par contre que j’ai réussi à lui faire croire qu’Elisabeth II est morte, parce que je n’ai à aucun moment dans la conversation évoqué la famille royale anglaise avant le moment où il m’a dit que Charles III est le monarque du RU. En outre il ne pouvait à priori pas savoir que le nom de règne de Charles III serait Charles III, car bien que ça soit son prénom officiel, il avait plus d’une fois dit qu’il envisageait d’en adopter un autre lorsqu’il accéderait au trône.

4 « J'aime »