À son tour, ChatGPT s’apprête à déployer un système de marquage invisible pour les textes générés par IA. La nouveauté devrait débarquer dans l’Union européenne dans les prochaines semaines pour répondre aux nouvelles exigences de l’AI Act.
bien
L’intention de départ était sans doute louable mais cela ne servira pas à grand-chose à part peut-être pour que des professeurs puissent savoir quels sont leurs élèves qui ont utilisé l’IA mais pour les articles de la presse écrite, par exemple en ligne, ou pour les livres, par exemple des romans, qui pourraient être en grande partie écrits à l’avenir grâce à l’IA, ça ne changera absolument rien. En effet à partir du moment où l’on sait que le codage consistera à ce qu’un certain nombre de mots particuliers, liés à d’autres, figurent dans un texte il suffira d’en changer quelques uns pour que l’identification disparaisse et l’on peut même imaginer qu’une application spéciale remplaçant des mots par leurs synonymes sera très vite conçue pour rendre les textes écrits par les IA générant une trace indétectables. Pour la presse écrite la meilleure chose à faire pour empêcher que des articles soient écrits par l’IA serait qu’ils soient tous signés, que tous les journalistes s’engagent à ne pas utiliser l’IA et qu’ils soient sanctionnés en cas de manquement, par exemple que l’on ne fasse plus appel à des pigistes qui y auraient recours Et il ne s’agirait pas bien sûr d’empêcher des journalistes d’obtenir rapidement grâce à l’IA un certain nombre d’informations, par exemple sur une centrale nucléaire si leur article est consacré à ce sujet, mais de ne pas les autoriser à utiliser l’IA pour rédiger leur article à leur place. Pour la littérature puisqu’il est très facile pour l’IA de reconnaître une demande effectuée pour qu’elle rédige « à la place » d’une personne un texte à caractère littéraire il faudrait tout simplement interdire ce genre de requête. Car qui peut bien vouloir demander à l’IA de rédiger un texte de ce genre sinon soit un auteur qui n’en n’a pas besoin puisqu’il sait écrire soit quelqu’un qui n’est pas un écrivain mais qui pourra peut-être, s’il sait habilement formuler ses demandes à l’IA, obtenir un résultat satisfaisant qui lui permettra ensuite de publier un livre et de s’en approprier le mérite et les bénéfices. Concrètement dès qu’une demande de rédaction à caractère littéraire serait formulée l’IA s’excuserait de ne pouvoir l’accomplir afin de préserver la « création littéraire humaine ». Il faudrait bien sûr que toutes les IA acceptent de mettre en œuvre cette restriction qui ne concernerait bien sûr pas les autres domaines de l’écrit tels que les rapports et les exposés par exemple.