Commentaires : Ce pape en doudoune est un deepfake, mais classe, mais deepfake, mais

Des images du pape portant une doudoune blanche sont devenues virales en ligne. Si beaucoup ont cru que le pontife s’était mis à la mode, ce visuel a en réalité été généré par l’intelligence artificielle Midjourney.

1 « J'aime »

Flippant, même Saint Thomas ce serait fait avoir :wink:

9 « J'aime »

2023 , l année des fakes News !
Avec chatgpt4 , l IA de Facebook qui se retrouve sur 4chan et qui fonctionne sur un pc , midjournez qui retrourne le cerveau , on ne va bientôt plus croire à aucune info !

1 « J'aime »

Ca date pas d’hier :sweat_smile:

1 « J'aime »

Vu ce qui tourne sur le web et discussion de comptoir au pmu, il fallait toujours être sur de ses infos.

La ou ça sera problématique, c’est quand les médias tomberont dans le panneau. Déjà que ça arrive de temps en temps (ou souvent), la ça risque d’empirer.

1 « J'aime »

Le pape mieux vaut qu’il soit en doudoune qu’à poil et en présence de qui vous savez, si vous voyez ce que je veux dire.

Midjourney… Untill dawn…

Oula, une attaque envers les chrétiens ?
Attention à la subversivité, tu prends des risques :slightly_smiling_face:

Quand on entend ce qu’on entend, et qu’on voit ce qu’on voit, on a raison de penser ce qu’on pense.

3 « J'aime »

Rien n’est vrai. Tout est possible.

« Attention à la subversivité »
Faut revoir ta définition :wink: : Qui est de nature à troubler ou à renverser l’ordre social ou politique
Première nouvelle, les chrétiens garants de l’ordre social !
Ce n’est pas l’état ?
J’ai certes un esprit subversif mais dans ce cas précis on en est loin :sweat_smile:

« Oula, une attaque envers les chrétiens ? »
Je suis charlie euh pardon je voulais dire charrieur :joy:

Mais penses tu vraiment ce que tu penses ? Ou est ce une IA qui t’a généré une pensée ?

Gageons qu’ayant compris que toute image étant potentiellement fausse à cause de ce genre d’IA, nous aurons tous à cœur de vérifier nos sources avant de propager une information.
Avant, un trucage demandait un minimum de compétence, maintenant même ma grand-mère peut générer une image de Neymar en train de marcher sans béquille.

1 « J'aime »

Alors petite precision, Midjourney ce n’est pas du deepfake

Jean ?

Je ne cautionne pas la prolifération des utilisation douteuses des IA, mais ces fakes sont tout aussi simples à réaliser sans IA.

Et si la réforme des retraites n’était qu’une énorme fake des IA complotiste… :smiley:

1 « J'aime »

À un moment ou un autre, il va falloir légiférer. Le temps que les institutions se mettent en branle. Et ça va se faire. Sinon on aura 2 types de médias, ceux officiels « certifiés » (ou qui essaieront) sans fausses images et autres deepfakes générées par les IA (Le Monde, France Info, Libération, CNN, Le Figaro… ), et les médias « poubelle » dont les informations n’auront plus aucune valeur.

Sans règles, les grands perdants seront les lecteurs, les utilisateurs et les créateurs de contenu qui ont une éthique. Les gagnants seront tous les nuisibles, les trolls, les auteurs de fake news, les propagandistes, les états criminels ou les illuminés.

Même les réseaux sociaux ont tout à perdre avec ces faux contenus. Si leur crédibilité est déjà bien entachée par les scandales et les polémiques à répétition, nourrir les clics avec des contenus encore plus toxiques ne ferait que les décrédibiliser complètement. Avec le risque que le public finisse par se détourner complètement.

Autre point, ces IA n’ont d’intelligente que la lettre « I ». Leurs contenus sont en grande partie basés sur le vol. Voir complètement basés sur le vol. Là aussi il va falloir légiférer et siffler la fin de la récré pour ceux qui ne respectent rien. Par exemples, les images d’illustration de l’article avec le Pape ou Trump n’ont pas été conçues à partir de rien. La source, ce sont des images piratées, bidouillées à coups d’algorithmes et régurgitées. L’IA n’invente rien, elle vole des images sans se soucier du copyright et de l’éthique. Si certains croient que la tête de Trump à été créée sur la base de savants calculs mystérieux, ils se gourent, tout est volé et trafiqué.
Donc soit les entreprises à la tête de ces IA reversent l’intégralité de leurs profits aux représentants divers des auteurs, soit elles finissent devant les tribunaux.

Dernier point, les créateurs de contenus visuels (photographes, illustrateurs… ) ont déjà sorti une parade pour tromper les IA génératives quand elles viennent pirater leur contenu; avec un logiciel baptisé « Glaze ».

Les IA sortiront une contre parade… Actuellement, c’est histoire de gagner un peu de temps avant que les institutions ne légifèrent. Il le faudra, sinon la liberté d’expression va devenir une vaste blague et les fakes conçus par les tarés de tous bords prendront autant de valeur que les contenus authentiques. On connait le résultat, quand tout se vaut, plus rien n’a de valeur. Et ça, c’est ce que recherchent les ennemis de la démocratie.

1 « J'aime »

Prochaine étape, des tas de faux profils gérés par des IA qui posteront des commentaires sur les réseaux sociaux. Si ça inonde le web de fausses infos, de faux commentaires, peut-être ça nous détournera de tous ça pour retrouver une vie meilleure ? Socialiser pour de vrai, avec de vrais humains ?

Ça ne s’arrange pas.
Bientôt, tout ce qui apparaitra sur la toile, sera faux.
Est-ce qu’on va revenir aux journaux papier ?