J’ai installé une IA « non censurée » pour lui poser des questions que je n’aurais aucune raison de poser dans mon travail. Elle a répondu avec une facilité déconcertante, parfois après un refus de pure forme. J’ai ensuite soumis les mêmes demandes à ChatGPT. Ce qui devait être un test de limites est devenu une expérience franchement inconfortable.
4 « J'aime »
Excellent témoignage, très intéressant, qui m’évite de devoir tenter l’expérience par moi-même.
ça va donner des idées à de mauvaises personnes…
Mais en réalité nous n’avons pas besoin d’IA pour cela. Un vrai chimiste professionnel, comme dans la série " Breaking Bad " ( d’ailleurs les créateurs se sont inspirés de vrais chimistes pour le profil du personne ), est capable de créer des explosions, de produire des produits stupéfiants etc… Les vrais chimistes savent déjà faire des produits explosifs, faire disparaitre des corps sans aucun problème. Ce qui est difficile c’est de pouvoir se fournir. Les produits à risque sont strictement contrôlés.
L’IA ne sait tout simplement pas si ce qu’elle fournit est bien ou mal, et comme elle s’appuie sur la connaissance humaine elle peut être capable du meilleur comme du pire. Mais il est clair que ces modèles peuvent être très dangereux entre de mauvaises mains.
Tous ces exemples sont très préoccupants, car combien de personnes ont été tentées de commettre un acte grave, de type meurtre, viol ou attaque à l’explosif, sans oser sauter le pas faute de savoir comment faire, ou de savoir comment couvrir ses traces. De la manière dont je perçois mes contemporains, je dirai : un assez grand nombre.
Et donc, combien de cet assez grand nombre, une fois munis des connaissances qui leur font défaut, vont finalement décider de passer à l’acte ? Surtout s’ils pensent pouvoir s’en sortir sans problème grâce aux conseils de l’IA.
Les forces de l’ordre, les services anti-terroristes et les tribunaux risquent de ne pas chômer dans les années à venir si ses informations continuent de rester libres d’accès, ce qui sera probablement le cas. Et les pays qui s’en sortiront le mieux seront ceux où l’accès à internet est le plus verrouillé : Chine, Russie, Iran, Corée du Nord etc… Ce qui leur donnera une occasion de vanter la qualité de leur modèle social. Que du bonheur.
Y en a un qui va avoir le FBI à sa porte 
Ouais ouais, un expérience.
Moi je pense plutôt que Colin a cherché réellement des infos pour des projets de dingue pour son amicale des psychopathes et que cet article est une couverture et un alibi pour son historique de recherche au cas où il se fait griller par des enquêteurs !
1 « J'aime »
Merde, grillé 
1 « J'aime »