Commentaires : L'arme anti-ChatGPT est là, voilà comment ça marche

Un nouvel outil vient d’apparaître sur la toile, qui permettrait de repérer les textes produits par l’intelligence artificielle ChatGPT.

1 « J'aime »

Je parie qu’il utilise une IA pour détecter si cela provient d’une IA…

9 « J'aime »

on peut aussi imaginer que les étudiants vont les modifier un peu et retester le score pour voir si cela passe bien.

Le but étant qu’ils passent moins de temps à le faire eux même qu’à le modifier.
Ensuite, admettons que le score soit en faveur de chatGPT, comment réellement le prouver si l’étudiant refuse de l’admettre?

6 « J'aime »

« Plus les phrases et la structure du texte apparaissent aléatoires à GPTZero, plus l’application sera « surprise » et donnera un score élevé au texte analysé »

ça veut dire que le texte d’un fou sera mieux noté que le texte d’un savant ?

1 « J'aime »

En effet, d’autant plus que les mécanismes qui font de l’IA ce qu’elle est aujourd’hui existaient déjà dès le début des années 90 avec des programmes comme Fritz 1. En 1997 soit 6 ans après la sortie de Fritz 1, Kasparov perdait la face face à Deep Blue, ce même si les ingénieurs d’IBM avaient alors semble-t-il triché en conseillant secrètement Deep Blue pour l’aider à gagner ;-(

Il ne fait aucun doutes que d’ici quelques temps de nouvelles révolutions sociales et culturelles vont arriver par le biais de l’électronique et de l’informatique, le problème c’est que cela risque d’être pour le meilleur mais aussi le pire certaines fois.

La plus grande révolution que j’attend de pied ferme me concernant, c’est la mise au placard des élus politiques et représentants en tout genre. Nous n’avons pas besoin d’être guidés ou assistés pour mener notre propre barque, nous sommes des adultes responsables et vaccinés. Aujourd’hui la technique nous permettrait très facilement de voter depuis nos ordinateurs ou smartphones et donc de révolutionner en profondeur le système politique actuel qui est basé sur la représentativité du peuple au parlement and co. Ce système est biaisée nous le savons tous, il faut le remplacer par un nouveau système ou le peuple serait enfin le seul et unique roi, car c’est cela une démocratie !!!

3 « J'aime »

Moi même développeur informatique(Java, Angular, Ionic) , j’utilise de plus en plus chatGPT même si il se trompe souvent ou pour lui la réponse fournie semble être correct alors que dans les faits, soit la librairie et méthodes utilisées sont dépréciées ou soit le bout de code ne compile pas.

Mais ca reste très impressionnant sa manière de fournir du code avec explication et commentaire. Il me donne des résultats bien plus satisfaisants que lors de recherches google classiques.

Pourquoi pas tout simplement une base de données publique de toutes les réponses générées par ChatGPT. Certes, ça pourrait prendre de la place mais au moins, ça aurait le mérite d’être transparent si on avait à disposition la question posée, la date et l’heure ou encore le pays et le texte généré.

Un prof pourrait par exemple entrer une portion du texte et ChatGPT reconnaîtrait (avec un degré de certitude au cas où le texte aurait été quelque peu modifié). De cette façon, la preuve de plagiat serait évidente si le prof dit à l’élève « J’ai donné ce sujet de dissertation hier matin, et hier soir quelqu’un a posé cette question à ChatGPT avec le texte qui ressemble à 95% à la réponse générée… ».

1 « J'aime »

Car c est pas possible il va sortir des réponses différentes en permanence. Ensuite, on peut demander une réponse en français académique, en argot, language familier,… Peut-être même lui demander d’écrire avec des fautes d’orthographes ou d’autres demandes.
Au pire l’élève recopie à la main, et le prof va pas pouvoir scanner le document, il y aura des fautes,…
Bref il y a pleins de méthode pour faire passer un truc pour un autre ce ne sont pas des billets ou des cartes d’identité avec pleins de sécurités.

1 « J'aime »

Si vous avez le temps d’étudier a fond tous les sujets votés, ainsi que les connaissances pour les comprendre, effectivement votre proposition semble bonne.
Pour moi, je donne ma confiance dans des professionnels, comme je le ferai pour un plombier ou un pompier, pour me représenter (faire le taf) au mieux, pendant que je me concentre sur mon domaine d’expertise.
Donc effectivement, ce n’est pas parfait, mais le tableau que vous dressez est il me semble utopique.

4 « J'aime »

Et là, pas comme avant, les parents iront se plaindre à l’inspection qui sanctionnera le prof qui n’a pas été suffisemment bienveillant

je partage, le côté explication est bien plus clair et plus rapide à trouver qu’avec une recherche google. Je suis par exemple en train de préparer une formation sur git et il suffit de dire donne moi un exemple et crée un exercice pour que tout sorte direct et franchement c’est exploitable à 90% voire plus dans certains cas.

1 « J'aime »

Ou là là ! Vous voulez donner les clés de nos institutions à des pirates? Franchement ca ne vous refroidit pas le piratage des hôpitaux et des administrations?
Au delà de ça, ca risque de devenir une république twitter votre truc ! Ce sera à celui qui fait le plus de buzz qui fera passer son texte même s’il y a des conséquences désastreuse après. On le voit déjà aujourd’hui avec des lois votées sous le coup de l’émotion médiatique. Une société ca ne se dirige pas avec de l’émotion mais avec de la reflexion sur un temps beaucoup plus long qu’un clic.

Mouais, pas vraiment pour la première proposition, tout est maintenant une question de sentiments basiques et de réactions réflexes primaires appelées « bon sens » :-/ , bien loin de la réflexion et du bien commun… Et pour la deuxième, pas sûr non plus, vu tout le foin que font les anti-vax… :stuck_out_tongue:
On accuse souvent les élus d’être loin de nos préoccupations quotidiennes (souvent à tort, mais c’est un autre débat), alors une IA, elle va prendre des décisions sur quelles bases? Ce qu’elle trouve sur le net => mauvais choix à mon avis. Je préfère un algo, c’est plus sur et on peut plus facilement imposer des contraintes, reste à savoir lesquelles => on retombe dans la « représentation » avec des élus qui feront les choix des contraintes…

Il ne faut pas oublier, les dizaines de vaccins obligatoires que tu fais dès le plus jeune âge hein…

Je parlais en général, pas que du Covid. Depuis une dizaine d’année, la couverture vaccinale a diminué, et ça a même permis à certaines maladies de revenir en force…
Le problème a explosé avec la vaccination Covid avec une forte couverture médiatique et il n’y avait que ça sur les réseaux sociaux mais le problème de fond est là depuis longtemps.

Ça serait possible, mais si on ne donne le droit de vote qu’à des personnes assez intelligentes et compétentes, et là on ouvre un vaste sujet, comment déterminer qui l’est ?

C’est une IA gentille pour combattre la tyrannie de l’IA méchante?

Ces outils n’ont aucune utilité à long terme, car ils ne fonctionneront que pour ceux qui ne modifient pas ce que l’IA leur apporte…

Je rappelle mon exemple du devoir copié sur les copains.
Les meilleurs flemmards retouchaient le devoir systématiquement, et ne se faisaient jamais chopper.
Les flemmards les moins malins recopiaient bêtement sans rien y comprendre, erreur comprise, et sans la moindre modification. Et se faisaient chopper la plupart du temps.

Même principe ici. L’invisibilité passe par la variation.

1 « J'aime »

J’ai posé la question à chatGPT (Pourquoi les gens ont peur de l’intelligence artificielle tel que chatGPT) voici la réponse :point_down:

Il y a plusieurs raisons pour lesquelles certaines personnes peuvent être inquiètes ou sceptiques à l’égard de l’intelligence artificielle (IA). L’une des principales raisons est que l’IA peut être perçue comme une technologie complexe et mystérieuse, ce qui peut susciter de la méfiance ou de la crainte. Certaines personnes peuvent également être préoccupées par le fait que l’IA pourrait un jour devenir plus intelligente que les humains et prendre le contrôle de certaines tâches ou décisions, ce qui pourrait avoir des conséquences imprévisibles.

Il est important de souligner que l’IA est simplement un outil conçu pour aider les gens à effectuer certaines tâches de manière plus efficace ou plus précise. Comme toute technologie, elle peut être utilisée de manière responsable ou abusive, et il est important de veiller à ce qu’elle soit utilisée de manière éthique et transparente. En fin de compte, l’IA est un outil pour les humains et non l’inverse.

Exactement. A ce détail prés que la majorité des humains sont facilement cons et paresseux…

1 « J'aime »