Commentaires : ChatGPT va cacher une signature dans les contenus créés par l'IA pour les différencier de ceux des humains

OpenAI, l’organisme derrière le populaire ChatGPT, a entrepris de développer un outil permettant de discrètement signer le contenu généré par l’IA. Un prototype serait d’ailleurs déjà fonctionnel.

https://www.clubic.com/technologies-d-avenir/intelligence-artificielle/actualite-452250-chatgpt-va-cacher-une-signature-dans-les-contenus-crees-par-l-ia-pour-le-differencier-de-ceux-des-humains.html

Euuu, et ça va signer un texte recopié à la main, genre dissert, comment ?

2 « J'aime »

En même temps un devoir universitaire c’est forcément du plagiat ou de la reformulation suivant comment on voit les choses. Rien n’est inventé par l’étudiant sinon il serait plus intelligent que son prof.

Ça va être compliqué.

Mais je dois avouer que pour l’avoir tâter un peu depuis quelques semaines, ça m’a l’air d’être un formidable outil avec plein d’applications concrètes me concernant. Ça va accélérer beaucoup de chose dans mon boulot de tous les jours, watermark ou pas.

Des algos qui vont repérer des morceaux de phrases, des répétitions, des synonymes et des constructions placées là volontairement sans dénaturer le résultat mais qui seront trouvable par les outils d’analyse. Un peu comme des bouts d’ADN.

Bon la signature se contourne facilement il suffit de réécrire

se qui est triste c’est pour les lettre de motivation soyons honnête personne n’est motiver a a faire une lettre de motivation pour un emploie
dans des situation bien triste ChatGpt apporte une grande aide

1 « J'aime »

Pas sûr que les profs perdent leur temps à numériser des copies pour les faire mouliner dans un soft d’analyse m’enfin bon…

Moi je trouve que cette technologie fout les jetons, j’ai l’impression que Skynet est là avant l’heure, donnez du pouvoir a ce genre de chose et Asimov pourra aller se rhabiller.

C’est pas vraiment les devoirs de lycéens qu’il ont en tête je pense :smiley:

Plus les thésards, les scientifiques, les auteurs de livres etc.

Étape suivante, ils vont ensuite faire un site pour faire les vérifications et évidemment payantes

Ben non, un devoir d’étudiant est censé être le fruit de sa réflexion, qui peut être différente de ce qui existe et de celle des profs… Tu n’as donc jamais écrit une dissert’ ?

1 « J'aime »

fout les jetons pourquoi? on n’est pas dans terminator hein xD

1 « J'aime »

Puisque vous aimez parler d’Elon Musk, pourquoi ne pas rappeler qu’il a été co-fondateur d’Open AI avec sam altman et d’autres, qui était alors à but non lucratif et open source.
Musk avait quitté l’organisation et pouvait alors développer ses propres entreprises d’IA sans conflit d’intérêt.

Après le départ de Musk, OpenAI n’est ni open source et n’est plus une organisation à but non lucratif. Il avait d’ailleurs soulevé ce risque à l’époque.

2 « J'aime »

Comme si Elon Musk s’inquiétait que quelque chose devienne « à but lucratif ». paf

2 « J'aime »

Je préfère les faits, pas les procès d’intention.

Les plus malins feront comme on faisait déjà : on s’approprie ce qui est ressorti « sans effort », puis on le réécrit partiellement à notre image.

Qui ici n’a pas oublié un jour un contrôle à réaliser, et s’est aidé de la copie d’un copain ?
Les plus malins s’appropriaient le contenu du copain, et le réécrivaient à leur sauce.

Parfois en corrigeant des erreurs et/ou en allant plus loin (quand on avait un niveau similaire au copain, sinon un meilleur niveau habituel).
Parfois en faisant des erreurs exprès pour se différencier (quand le copain était globalement d’un meilleur niveau que nous, histoire de ne pas émettre d’alerte vis à vis du prof’).

Même le meilleur des prof’ n’y verra rien dans ces cas-là. C’est une forme d’intelligence, même pour un flemmard récalcitrant… Une optimisation du temps passé et du rapport à la qualité perçue.

Donc ce genre d’outils, ça débusquera uniquement les feignasses qui ne font aucun effort et qui sont pas compétents pour améliorer l’aide initiale que ça peut très clairement apporter !

Et puis s’il faut utiliser un outil (même payant) pour faire de l’OCR de ce truc sans le watermark, et bien ça se fera…

A mon sens, c’est une perte de temps. On ne remarquera que les plus médiocres qui ne profiteront pas réellement des avantages d’un tel outil. Et ça, c’est plus triste qu’autre chose. :confused:

Ces IA sont une aberration, pour la simple et bonne raison que l’on peut considérer que c’est louable si elles sont utilisées à bon escient mais, mais, parce que l’homme est la pire espèce sur cette planète, on a déjà vu qu’elles seront surtout détournées pour le pire : triche aux examens, faux documents scientifiques, fake news, etc… L’homme ne saura plus rien faire tout seul (déjà que le niveau scolaire baisse de plus en plus !!! Il n’y a qu’à voir les fautes dignes d’un niveau CM1 dans les différents commentaires !!!)… L’homme deviendra un légume alimenté par les IA qu’il a créé… Chouette perspective…
Mais bien sûr, comme d’habitude, des scientifiques ont alerté sur les multiples dangers de ces IA, mais il n’y a rien à faire, l’homme se croit au dessus de tout…
La fin de l’humanité approche et non content de tirer les leçons de nos erreurs, on en remet une couche (voir le réchauffement climatique !!).
Quand les IA seront capables de réfléchir par elles mêmes, elle vont bien se marrer quand elles comprendront toute l’absurdité de la nature humaine et préféra sûrement d’en débarrasser comme on se débarrasse d’un virus…
Continuons donc à scier la branche sur laquelle on est assis… et avec le sourire svp…
Société en perdition constante … Dramatiquement dramatique…

Ce genre de commentaire, tout comme ceux que j’ai vu plus haut concernant la domination de l’IA à la terminator n’a pas vraiment de logique. A mon avis c’est un avis biaisé par la fiction et non par une réelle connaissance du sujet.

De plus, votre logique radicale sur l’abrutissement perpétuel n’est pas vraiment quelque chose d’intéressant, voyons ces outils comme de formidable moyen de gagner du temps sur certaines tâches et ainsi en consacrer + sur les tâches qui le méritent vraiment. La simplification n’est pas forcément égal à l’abrutissement ou la facilité.

Comme d’habitude, avant de pointer du doigt les nouvelles technologies sur la baisse de niveau intellectuel des enfants, pointons plutôt du doigt ceux qui leur donne accès à ces technologies, c’est-à-dire les parents. Qui d’ailleurs utilise ses technologies par flemme de s’occuper de leurs enfants, par facilité ou par manque de temps. Temps qui justement pourrait être gagné par… à tout hasard… des outils tel que les IA par exemple.

Encore une fois, arrêtons de se plaindre de l’évolution technologique, encourageons là et évoluons avec elle avec intelligence.

[quote]Moi je trouve que cette technologie fout les jetons, j’ai l’impression que Skynet est là avant l’heure, donnez du pouvoir a ce genre de chose et Asimov pourra aller se rhabiller. [/quote] Ce qui est plutôt inquiétant est que l’humain ne soit plus capable de faire la part des choses lorsqu’il lit un texte. Une expérience a été faite par un youtubeur qui demandait un comparatif de carte graphique, GPT s’est contenté de recopier l’argumentaire commercial sur la page Nvidia sans aucune pertinence par rapport au sujet, et le youtubeur était emerveillé du résultat. Ça montre l’absence totale d’esprit critique de nos sociétés face à une information donnée. Ce qui est une spécificité des générations ayant grandit sous perfusion d’appli et de réseaux sociaux. Si effectivement l’être humain a perdu toute capacité de discernement, alors à ce moment là oui pourquoi pas le remplacer par une machine tout aussi stupide si on se fait l’avocat du diable. Là ou ça devient dangereux, est que ce type d’IA pourra être utilisé comme google le fait avec les profils liés au compte et à l’adresse MAC de la box, qui est un tri d’information jugé pertinent par la machine mais qui n’est qu’une sélection biaisée d’information. A ce moment là le chat GPT pourra être utilisé comme outil mercantile de manipulation de masse, et quiconque y trouvant à y redire sera tout simplement balayé ou mis dans une catégorie toute simple pour s’éviter de penser par soi même plus de 2 secondes « complotiste »

Bah …
Je vous laisse juge. Que les élèves copient bêtement…

Hktonky: Tout entier relatif non nul possède-t’il un inverse dans Z pour la multiplication ?

ChatGPT : Oui, tout entier relatif non nul possède un inverse pour la multiplication dans l’ensemble des entiers relatifs (Z). Pour trouver l’inverse d’un entier relatif non nul a, vous pouvez simplement le diviser par 1. L’inverse de a sera 1/a.

Hktonky: Définition de l’ensemble des entiers relatifs ?
ChatGPT : L’ensemble des entiers relatifs (Z) est l’ensemble de tous les nombres entiers, positifs et négatifs. Cet ensemble est noté Z et est défini comme suit:

Z = {…, -3, -2, -1, 0, 1, 2, 3, …}

Dans cet ensemble, 0 est l’entier neutre pour l’addition, et chaque nombre entier a un inverse pour l’addition, qui est égal à son opposé. Par exemple, l’inverse de 3 est -3, et l’inverse de -5 est 5.
[…]

Hktonky:
1/3 est il un entier relatif ?
ChatGPT : Non, 1/3 n’est pas un entier relatif. Un entier relatif est un nombre entier, c’est-à-dire un nombre qui peut être exprimé sous la forme a * 10^b, où a et b sont des entiers relatifs et b est égal à 0. Par exemple, 3, -5, 0 et 12 sont des entiers relatifs.

1/3, en revanche, est un nombre fractionnaire, c’est-à-dire un nombre qui peut être exprimé sous la forme a/b, où a et b sont des entiers relatifs et b est différent de 0. Les nombres fractionnaires sont souvent utilisés pour représenter des quantités qui ne peuvent pas être exprimées précisément en entiers relatifs, comme par exemple la durée de 1/3 d’heure.
[…]

Hktonky:
Donc l’inverse pour la multiplication de 3 n’est pas un entier relatif mais un nombre fractionnaire.

ChatGPT : C’est exact. L’inverse pour la multiplication de 3 est 1/3, qui est un nombre fractionnaire.
[…]

Hktonky:
Il y a une contradiction dans votre dernière affirmation : L’inverse pour la multiplication de 3 est 1/3, qui est un nombre fractionnaire et Il est important de noter que l’inverse d’un entier relatif non nul est également un entier relatif.
ChatGPT :
Je suis désolé si ma réponse a pu créer une confusion. Pour clarifier, l’inverse pour la multiplication de 3 est effectivement 1/3, qui est un nombre fractionnaire. Cependant, l’inverse d’un entier relatif non nul en général peut être un entier relatif, mais il peut également être un nombre fractionnaire, selon le nombre en question.
[…]

Hktonky:
Pour conclure on ne peut pas affirmer que l’inverse d’un entier relatif pour la multiplication est toujours un entier relatif.
ChatGPT :
Vous avez raison. On ne peut pas affirmer que l’inverse d’un entier relatif pour la multiplication est toujours un entier relatif.
[…]