Commentaires : L'IA génère de plus en plus de contenus à caractère pédopornographique, selon Europol

Europol alerte sur l’augmentation des contenus pédopornographiques générés par l’intelligence artificielle. L’agence européenne souligne la difficulté croissante d’identifier les victimes et les auteurs. Même les images entièrement artificielles contribuent à l’objectivation et à la sexualisation des enfants, précise l’agence européenne.

Le plus simple est de ne pas faire de prompts. Comme je ne recherche rien de ce type sur le net , fort logiquement je ne reçois aucune image…ce n’est pas l’IA la coupable mais ceux qui demandent la création de ces images. On ne trouve que ce que l’on cherche.

4 « J'aime »

Ça tombe sous le sens. Et dans la même veine, c’est tout de même nous, les humains, qui sommes le bras armé des IA. Encore une fois, j’ai l’impression qu’on casse un super jouet.

1 « J'aime »

Même débat que sur les images pédopornographiques dessinées, si ça peut éviter qu’un malade assouvisse ses pulsions sur des vraies images qui participent à leur production, ou qu’ils exercent eux même des sévices à un enfant, c’est pas plus mal.

1 « J'aime »

Pas sûr que ça suffise à canaliser les pulsions d’un pédophile, la consultation d’images générées par IA peut au contraire le maintenir dans un état d’excitation croissant qui finira par le faire passer à l’acte sur de vrais enfants.

2 « J'aime »

J’ai eu la même réflexion que crush56.
Vrai question : est-ce que vos propos s’appuient sur des études ou comme pour nous, il ne s’agit que d’un avis instinctif ?

1 « J'aime »

Dans le cas du porno, un lien a été établi entre le fait de consommer du porno violent et une augmentation du risque de commettre des agression sexuelles : Le porno violent augmente les risques d'agression | 24 heures (attention, image NSFW en illustration de l’article)

Il est donc assez probable qu’il en soit de même avec la pédopornographie.

1 « J'aime »

Avant d’alle plus loin ma réponse concerne un seul point : le fait d’avoir des perso dénudé.
Pour du pédo je peux que confirmé que j’ai jamais eu ce genre de soucis (ouf)
Mais pour des perso dénudé, si tu met un prompt négatif genre NSFW si le modele a trop d’entrainement en NSFW tu as parfois la malchance de te retrouvé avec du nude alors que c’est pas ce que t’as demandé
Bref ca depend des modèles ou des lora

Et pour @kast_or:
Certes la génération d’images par l’IA évite l’exploitation directe des enfants, mais la mise à disposition et la consommation derrière entretient la pédophilie, le désir sexuel à l’encontre d’« enfants ». Donc augmenter la disponibilité de ces contenus, artificiels ou pas, entretient le pédophile dans son désir.
Je n’ai évidemment pas de chiffres mais on peut imaginer que si ce désir est entretenu, la personne va y penser, et avoir potentiellement des comportements déplacés dans la vie réelle (regards sur des enfants, attouchements, etc.).
Je pense qu’il serait mieux d’essayer de « détourner » ces personnes de ces pensées (je n’aime pas non plus l’idée d’interdire des pensées) pour réduire les risques de dérapages, agressions, viols etc.
Je ne pense pas qu’on réduit la violence de quelqu’un en lui donnant accès à des contenus violents « mais faits en images de synthèse »…

1 « J'aime »

L’IA … c’est du pain béni pour ceux qui n’ont pas développé par l’effort leur propre intelligence qui permet de penser, avoir des notions de bien et de mal, réfléchir, analyser, chercher, déduire , conclure par soi même …

Selon un sondage, 82 % des « jeunes » disant utiliser l’IA pour faire leurs devoirs , en clair l’IA fait leurs devoirs et donc, 82 % des jeunes laissent leur neurones au stade prépubère … un drame selon moi mais bon …

1 « J'aime »