Dans le premier volet de notre enquête concernant les détecteurs d’IA, Pangram et GPTZero ont plutôt bien reconnu les textes entièrement humains ou générés par ChatGPT. Les choses devenaient beaucoup moins claires avec un usage « hybride ». On s’est toutefois posé la question : que se passe-t-il vraiment entre le moment où l’on colle quelques centaines de mots dans un détecteur et celui où apparaît un verdict à 97 ou 100 % IA ? Pour le comprendre, il faut déjà oublier une partie de ce que l’on raconte encore sur ces outils…
1 « J'aime »
Article très intéressant. C’est comme la cryptanalyse. Moralité : ne copiez/collez pas un texte (ou n’importe quel contenu d’ailleurs) venant directement de l’IA car ces algorithmes laissent des traces, et parfois très résistantes (certains pensent juste qu’il y a quelques caractères cachés). Formulation de phrases, choix de mots et fréquence de ceux-ci. Si le texte est un peu conséquent, aucune analyse humaine ne pourra le détecter mais bien des modèles spécialisés.
Cela concerne surtout les personnes qui utilisent l’IA massivement pour tout et n’importe quoi et ne prennent même pas la peine de vérifier ce qui en ressort.
Et si on demande à une IA de supprimer les traces cachées des IA utilisées ?
1 « J'aime »
GPTZero n’est pas fiable. J’avais rédigé mon rapport sans l’aide de l’IA, sans copier-coller, sans support. Je voulais vérifier sur GPTZero et, résultat : 90 % rédigé par l’IA. Conclusion, pour ma part, les détecteurs d’IA n’ont jamais été fiables.
Le problème de l’IA dans le fond, c’est que les gens perdent la faculté de rédiger des rapports seuls.