Un crayon aussi est vendu.
Comme un bien, pas comme un service. Ce n’est pas la même chose, pas les mêmes responsabilités.
Quand tu vas à la papeterie pour acheter un crayon, tu repas pas avec un dessin…
Là tu as un service, tu lui demandes « dessine moi tel personnage de Disney » et il te le fait.
Ce n’est donc pas le graphiste qui dessine pour lui un Disney, c’est le graphiste qui dessine un Disney a un client qui le lui demande…
Je vais donner un exemple extrême : le fabricant ou le vendeur du couteau n’est pas responsable si je tue quelqu’un avec, par contre le tueur à gage qui m’a vendu le service « tuer avec un couteau », lui il est responsable.
1 « J'aime »
Un service reste un outil (le tueur à gage est l’outil du commanditaire qui a également une responsabilité pénale) du coup tu auras peut-être raison juridiquement (la décision nous le dira) mais ça ne me paraîtrait pas cohérent philosophiquement.
Du coup, ne serait-ce pas plus simple d’interdire les célébrités et autres marques dans les prompts ?
Hey IA, dessine moi un Mickey.
IA:non je n’ai pas le droit d’utiliser Mickey ou tout autre personnage de Disney.
C’est la méthode brute, mais ça peut créer beaucoup de faux positifs (« Dessine moi un kangourou avec des oreilles de Mickey », ça doit passer, tout comme « Dessine moi un Mickey dans sa version de Steambot Willie », puisque cette version est désormais dans le domaine public).
Et à l’inverse, ça ne garanti pas non plus qu’il ne va pas en générer « accidentellement ». Par exemple, « dessine moi une souris à grandes oreilles dans un style comics » pourrait échapper au filtre tout en sortant quand même un Mickey…
Une solution probablement plus efficace, à la fois sur la réduction des faux positifs et sur celle des faux négatifs, ça serait de repasser l’image générée dans un modèle de reconnaissance d’image, et ne pas la renvoyer à l’utilisateur si la réponse de ce modèle contient des mots interdits.
Mais là non plus, c’est pas fiable à 100%.
Et bien sûr, il y a aussi une possibilité de filtrer de façon plus intelligente sur le prompt intial, en ne se contentant pas de bloquer certains noms, mais en analysant le sens du prompt pour bloquer « dessine moi un Mickey » mais pas « dessine moi un Mickey dans le style de Georges de La Tour ».
L’IA risque de sortir un personnage comme Mickey si l’entraînement a massivement utilisé des images de Mickey, plus que d’autres souris en cartoon. Ainsi, un prompt comme « une souris anthropomorphe en short rouge et chaussures jaunes » risque probablement de générer une image ressemblant très fortement à Mickey. Et on peut aussi répéter ce cas pour d’autres artistes dont le contenu aurait pu servir sans consentement.
Et dans l’éventualité où un utilisateur de l’IA aurait malgré lui généré un dessin d’un personnage et que ce dessin ressemble trop, ou est identique à celui d’un artiste méconnu? Si ce dernier tente de faire valoir ses droits, à qui il doit s’adresser? A celui qui a écrit le prompt, qui dira alors « moi je n’y suis pour rien j’ai juste demandé ça »? A la société qui développé le modèle qui dira « Désolé on ne savait pas que ce dessin était protégé »? C’est flou, et ça peut générer des problèmes légaux. Si c’était fait correctement et légalement dès le départ on en serait pas là. Mais non! On a pompé tout Internet, des contenus de blogs perso où des artistes ont mis des heures et des jours à créer de superbes images, des galeries Flickr, DeviantArt et j’en passe en se disant « bah si c’est sur Internet c’est que c’est forcément libre ». C’est du pillage.
Donc moi je dirais, peut-être ne pas utiliser des images qui pourraient être problématiques mais peut-être utiliser l’IA comme… source d’inspiration et créer quelque chose d’assez personnalisé pour ne pas tomber dans la problématique.
1 « J'aime »