Commentaires : ChatGPT, Bard & co : oui, leurs gardes fou peuvent-être contournés... et pas forcément pour la bonne cause

Lorsqu’un chatbot est développé, l’entreprise qui en est responsable travaille dur pour que celui-ci respecte la loi et la morale en l’empêchant de générer des discours toxiques ou de la désinformation. Une équipe de chercheurs de San Francisco a cependant démontré qu’il était relativement facile de contourner ces barrières.

Rendre accessible l’IA à tous est une hérésie dans le sens où ça nécessite un éducation, des connaissances et une maturité suffisante pour l’apprécier comme un outil et non une source de vérités absolues. Sans ce bagage, nombres sont déjà à boire et prendre pour argent comptant ce que leur renvoient les IA.

En fait, je pense que cela s’applique à tous les outils, voir même aux interactions humaines!
Sinon, on se retrouve a suivre des idéologies / des religions / des principes de manière aveugle…

1 « J'aime »

Oui c’est du bon sens, et c’est essentiel pour garder un esprit critique et savoir faire preuve de nuance.
La preuve encore aujourd’hui avec le conflit israëlo-palestinien.