Commentaires : ChatGPT va cacher une signature dans les contenus créés par l'IA pour les différencier de ceux des humains

OpenAI, l’organisme derrière le populaire ChatGPT, a entrepris de développer un outil permettant de discrètement signer le contenu généré par l’IA. Un prototype serait d’ailleurs déjà fonctionnel.

Il suffira donc de reformuler le propos, je n’ai pas l’impression que ça résolve grand-chose, c’est ce qu’on faisait avec Wikipedia lorsque j’étais au lycée…

2 « J'aime »

Euuu, et ça va signer un texte recopié à la main, genre dissert, comment ?

2 « J'aime »

En même temps un devoir universitaire c’est forcément du plagiat ou de la reformulation suivant comment on voit les choses. Rien n’est inventé par l’étudiant sinon il serait plus intelligent que son prof.

Ça va être compliqué.

Mais je dois avouer que pour l’avoir tâter un peu depuis quelques semaines, ça m’a l’air d’être un formidable outil avec plein d’applications concrètes me concernant. Ça va accélérer beaucoup de chose dans mon boulot de tous les jours, watermark ou pas.

1 « J'aime »

Des algos qui vont repérer des morceaux de phrases, des répétitions, des synonymes et des constructions placées là volontairement sans dénaturer le résultat mais qui seront trouvable par les outils d’analyse. Un peu comme des bouts d’ADN.

1 « J'aime »

Bon la signature se contourne facilement il suffit de réécrire

se qui est triste c’est pour les lettre de motivation soyons honnête personne n’est motiver a a faire une lettre de motivation pour un emploie
dans des situation bien triste ChatGpt apporte une grande aide

1 « J'aime »

Pas sûr que les profs perdent leur temps à numériser des copies pour les faire mouliner dans un soft d’analyse m’enfin bon…

Moi je trouve que cette technologie fout les jetons, j’ai l’impression que Skynet est là avant l’heure, donnez du pouvoir a ce genre de chose et Asimov pourra aller se rhabiller.

C’est pas vraiment les devoirs de lycéens qu’il ont en tête je pense :smiley:

Plus les thésards, les scientifiques, les auteurs de livres etc.

Étape suivante, ils vont ensuite faire un site pour faire les vérifications et évidemment payantes

Ben non, un devoir d’étudiant est censé être le fruit de sa réflexion, qui peut être différente de ce qui existe et de celle des profs… Tu n’as donc jamais écrit une dissert’ ?

1 « J'aime »

fout les jetons pourquoi? on n’est pas dans terminator hein xD

1 « J'aime »

Puisque vous aimez parler d’Elon Musk, pourquoi ne pas rappeler qu’il a été co-fondateur d’Open AI avec sam altman et d’autres, qui était alors à but non lucratif et open source.
Musk avait quitté l’organisation et pouvait alors développer ses propres entreprises d’IA sans conflit d’intérêt.

Après le départ de Musk, OpenAI n’est ni open source et n’est plus une organisation à but non lucratif. Il avait d’ailleurs soulevé ce risque à l’époque.

2 « J'aime »

Comme si Elon Musk s’inquiétait que quelque chose devienne « à but lucratif ». paf

2 « J'aime »

Je préfère les faits, pas les procès d’intention.

Les plus malins feront comme on faisait déjà : on s’approprie ce qui est ressorti « sans effort », puis on le réécrit partiellement à notre image.

Qui ici n’a pas oublié un jour un contrôle à réaliser, et s’est aidé de la copie d’un copain ?
Les plus malins s’appropriaient le contenu du copain, et le réécrivaient à leur sauce.

Parfois en corrigeant des erreurs et/ou en allant plus loin (quand on avait un niveau similaire au copain, sinon un meilleur niveau habituel).
Parfois en faisant des erreurs exprès pour se différencier (quand le copain était globalement d’un meilleur niveau que nous, histoire de ne pas émettre d’alerte vis à vis du prof’).

Même le meilleur des prof’ n’y verra rien dans ces cas-là. C’est une forme d’intelligence, même pour un flemmard récalcitrant… Une optimisation du temps passé et du rapport à la qualité perçue.

Donc ce genre d’outils, ça débusquera uniquement les feignasses qui ne font aucun effort et qui sont pas compétents pour améliorer l’aide initiale que ça peut très clairement apporter !

Et puis s’il faut utiliser un outil (même payant) pour faire de l’OCR de ce truc sans le watermark, et bien ça se fera…

A mon sens, c’est une perte de temps. On ne remarquera que les plus médiocres qui ne profiteront pas réellement des avantages d’un tel outil. Et ça, c’est plus triste qu’autre chose. :confused:

Ces IA sont une aberration, pour la simple et bonne raison que l’on peut considérer que c’est louable si elles sont utilisées à bon escient mais, mais, parce que l’homme est la pire espèce sur cette planète, on a déjà vu qu’elles seront surtout détournées pour le pire : triche aux examens, faux documents scientifiques, fake news, etc… L’homme ne saura plus rien faire tout seul (déjà que le niveau scolaire baisse de plus en plus !!! Il n’y a qu’à voir les fautes dignes d’un niveau CM1 dans les différents commentaires !!!)… L’homme deviendra un légume alimenté par les IA qu’il a créé… Chouette perspective…
Mais bien sûr, comme d’habitude, des scientifiques ont alerté sur les multiples dangers de ces IA, mais il n’y a rien à faire, l’homme se croit au dessus de tout…
La fin de l’humanité approche et non content de tirer les leçons de nos erreurs, on en remet une couche (voir le réchauffement climatique !!).
Quand les IA seront capables de réfléchir par elles mêmes, elle vont bien se marrer quand elles comprendront toute l’absurdité de la nature humaine et préféra sûrement d’en débarrasser comme on se débarrasse d’un virus…
Continuons donc à scier la branche sur laquelle on est assis… et avec le sourire svp…
Société en perdition constante … Dramatiquement dramatique…

Ce genre de commentaire, tout comme ceux que j’ai vu plus haut concernant la domination de l’IA à la terminator n’a pas vraiment de logique. A mon avis c’est un avis biaisé par la fiction et non par une réelle connaissance du sujet.

De plus, votre logique radicale sur l’abrutissement perpétuel n’est pas vraiment quelque chose d’intéressant, voyons ces outils comme de formidable moyen de gagner du temps sur certaines tâches et ainsi en consacrer + sur les tâches qui le méritent vraiment. La simplification n’est pas forcément égal à l’abrutissement ou la facilité.

Comme d’habitude, avant de pointer du doigt les nouvelles technologies sur la baisse de niveau intellectuel des enfants, pointons plutôt du doigt ceux qui leur donne accès à ces technologies, c’est-à-dire les parents. Qui d’ailleurs utilise ses technologies par flemme de s’occuper de leurs enfants, par facilité ou par manque de temps. Temps qui justement pourrait être gagné par… à tout hasard… des outils tel que les IA par exemple.

Encore une fois, arrêtons de se plaindre de l’évolution technologique, encourageons là et évoluons avec elle avec intelligence.

[quote]Moi je trouve que cette technologie fout les jetons, j’ai l’impression que Skynet est là avant l’heure, donnez du pouvoir a ce genre de chose et Asimov pourra aller se rhabiller. [/quote] Ce qui est plutôt inquiétant est que l’humain ne soit plus capable de faire la part des choses lorsqu’il lit un texte. Une expérience a été faite par un youtubeur qui demandait un comparatif de carte graphique, GPT s’est contenté de recopier l’argumentaire commercial sur la page Nvidia sans aucune pertinence par rapport au sujet, et le youtubeur était emerveillé du résultat. Ça montre l’absence totale d’esprit critique de nos sociétés face à une information donnée. Ce qui est une spécificité des générations ayant grandit sous perfusion d’appli et de réseaux sociaux. Si effectivement l’être humain a perdu toute capacité de discernement, alors à ce moment là oui pourquoi pas le remplacer par une machine tout aussi stupide si on se fait l’avocat du diable. Là ou ça devient dangereux, est que ce type d’IA pourra être utilisé comme google le fait avec les profils liés au compte et à l’adresse MAC de la box, qui est un tri d’information jugé pertinent par la machine mais qui n’est qu’une sélection biaisée d’information. A ce moment là le chat GPT pourra être utilisé comme outil mercantile de manipulation de masse, et quiconque y trouvant à y redire sera tout simplement balayé ou mis dans une catégorie toute simple pour s’éviter de penser par soi même plus de 2 secondes « complotiste »