Les grands noms de l’intelligence artificielle se sont rejoints pour une déclaration commune. L’objectif est de travailler à empêcher l’utilisation d’outils IA dans le but de générer du contenu à caractère pédopornographique.
Le gros problème avec ces générations d’images rajeunies à caractère pornographique, c’est que je ne pense pas qu’elles puissent, pour l’instant, être sanctionnées par la loi tant qu’on ne les diffuse pas.
Ce qui veut dire que les pédophiles peuvent, en toute légalité, se fabriquer une photothèque d’images d’enfants, y compris avec des photos de personnes prises sur internet, voire de personnes du voisinage photographiées à leur insu.
Je suis curieux de voir comment le législateur va se débrouiller avec ça.
3 « J'aime »
Tous les grands noms… mais sans Twitter. Quelle surprise 
Même si sur le papier, l’article de loi sanctionnant les images pédo ne mentionne que la diffusion/transmission, dans les faits la jurisprudence sanctionne aussi la simple détention, en utilisant d’autres qualifications (importation, recel…).
Cf cet article, qui évoque notamment le cas de quelqu’un condamné pour avoir téléchargé de telles images : Détention / Diffusion d’images pédopornographiques - Droit Pénal | Maître Morlet
Or quand tu génères des images avec une IA générative, tu les télécharges. Même si tu ne les enregistre pas forcément durablement sur ton terminal.
3 « J'aime »
Les Loli en pls
ça fait un longtemps que des modeles d’IA génératives sont utilisable localement. Que ce soit pour la génération de texte, de son ou des images (et même peut être de la vidéo mais j’ai pas creusé).
C’est une bonne chose, mais fallait faire ça avant de sortir absoluement tout les outils pour le faire, C’est un peu tard maintenant…
Un truc purement juridique:
Un mec qui dessine lui même et de manière photo réaliste une image pédopornographique tombe t-il sous le coup de la loi?
À priori, non, aucun des qualificatifs utilisés actuellement ne semble pouvoir condamner ça. Mais si de tels cas venaient à devenir très fréquents, la loi s’adaptera sans doute.
Après, je pense quand même qu’il y aussi assez peu de chances qu’un type reste comme ça dans son coin à produire des dessins uniquement pour son usage, sans jamais chercher ni à les partager, ni au contraire à en récupérer d’autres ailleurs.
1 « J'aime »
Si tout à fait.
Après un peu de recherche je suis tombé la dessus.
En 2007, la Cour de cassation a confirmé que les sanctions (article 227-23 du code pénal) concernant les images pédopornographique étaient valables au même titre pour les enfants réels qu’en ce qui concerne des images non réelles représentant un mineur imaginaire.
A l’époque cela visait le hentai pédopornographique mais cela s’étend forcement aux images générée par IA.
A quand un système pour vérifier si tu ne penses pas à des fantasmes un peu tordus ?
Pourquoi si il ne la diffuse pas?
Parce que l’expérience a montré plus d’une fois que assouvir les fantasmes pédophiles avec des images augmente grandement le risque d’escalade et de passage à l’acte.
Donc une personne qui fantasme sur de telles images, même s’il ne les diffuse pas, il faut le faire soigner.
Sinon y aurait d’ailleurs pas non plus de raison d’interdire la diffusion hein…
C’est toute la question que soulève l’IA générative dans la sphère privé.
Il me semble en plus que certains travaillaient à « imager » le contenu des pensées, par je ne sais quel procédé.
Au final, juridiquement ça reste de la détention de contenu, donc je pense qu’il serait condamnable.
Donc c’était déjà pris en compte.
Merci
Oui, j’avais raté le passage sur les moins de 15 ans dans la loi, qui s’applique aussi pour la simple détention sans diffusion.
Bienvenue dans Minority Report.
Et si il a des fantasmes pédophiles sans image, on fait quoi docteur ?
Pédopornographie, le mot magique ;-(
Tiens xAI (GROK) a pas signé… Pourquoi je suis pas étonné…
Non.
Je viens de relire le texte de loi et rien n’est dit à propos de sanctionner le fait de dessiner soi-même des personnages mineurs dans des scènes pornographiques. Au contraire, la loi précise bien « en vue de sa diffusion ».
L’article est mal renseigné, à mon avis.