Commentaires : Pourquoi Sora, d'OpenAI, pourrait devenir dangereuse avec ses vraies-fausses vidéos

À peine dévoilée, Sora, l’IA générative de vidéos créée par OpenAI, fascine autant qu’elle inquiète. Certains lui prêtent déjà un fort potentiel dans la propagation de désinformation.

https://www.clubic.com/actualite-519169-pourquoi-sora-d-openai-pourrait-devenir-dangereuse-avec-ses-vraies-fausses-videos.html

faut voir les démos, c’est réellement bluffant,
un nouveau métier vient de disparaître, avec beaucoup de monde derrière : vidéaste.

C’est du pain béni pour les deepfakes.

Une grande partie de la population est ignorante de ces technologies et prête à tout croire du moment qu’on tape sur le gouvernement, l’armée, les vaccins etc… (faites votre choix, la liste est longue).

Ils ne vont jamais se demander si c’est vrai ou faux. Ils vont juste gober.

10 « J'aime »

Le problème n’est évidemment pas SORA mais l’usage que certains en feront…
C’est bien contre ces individus qui nous ont déclaré la guerre qu’il faut combattre et ne pas trouver des excuses pour se défiler…

Quand un terroriste poignarde des enfants, on ne s’en prend pas au vendeur et au fabricant du couteau…

2 « J'aime »

Le problème est que le législateur est en retard car les société lâche leur truc dans la nature et s’en lave les mains !!!

1 « J'aime »

Bientôt des videos de yetis , ovni et terre plate pour bien alimenter les théories du complot.
Qui sait, la NASA pourrait l’utiliser pour générer des vidéos d’alunissage réalistes. :crazy_face:

4 « J'aime »

C’est bien tout ça , mais concrètement ça sert à quoi cette IA générative de vidéo ? J’ai franchement du mal a comprendre pourquoi passer autant de temps et autant d’argent dans ce Type d’IA.
Certes le cinéma est une manne financière importante, mais ça fait vivre combien de personnes dans le monde ?
J’en arrive à penser que le seul véritable intérêt est la propagande avec tous les risques qui vont avec… et si c’est le cas, pourquoi ont interdit pas tous financement ?

Attention, je ne dis pas que l’IA en générale est inutile.

2 « J'aime »

ca ne remplacera jamais les comédies francaise , car pour atteindre ce niveau, il ne faut pas d’intelligence

8 « J'aime »

Tu n’as visiblement pas idée du nombre de vidéos de quelques secondes que les cinéastes piochent dans des banquent ou doivent réaliser eux-même pour illustrer leurs productions.

Par ailleurs, ça a un intérêt ne serais-ce que d’un point de vue recherche fondamentale.

2 « J'aime »

Raconter une histoire avec un support visuel. Mets ce que tu veux dans ton histoire.

Ok, mais c’est un plaisir personnel, je ne vois pas de solution financière intéressante à court moyen terme.

absolument aucune, mais ça ne répond pas au côté rentabilité… Je veux bien entendre que ça peut simplifier, mais si le visuel ne correspond pas au reste des images qu’ils accolent… La compétence et le temps nécessaire a écrire correctement la requête pour que le visuel correspondent, pas sûr que ça règle le problème financier…

Ok mais pour la recherche fondamentale, les dérives d’apprentissages a rattraper suite aux mauvaises requêtes, ça doit aussi couter cher en temps et énergie. La encore, d’un point de vue purement financier je ne suis pas sûr, car la recherche fondamentale se finance aussi sur l’intérêt financier que l’on peut en tirer.

Sora, Sora pas …

Voilà, donc si tu es incompétent sur le sujet ne t’exprime pas :wink:

Toutes les pubs que tu vois partout et pour tout, a la TV, dans la rue, sur le web. Toutes les vidéos qui permettent de présenter une idée, une marque, un produit, un sport etc… Des vidéos qui permettent d’illustrer ce que raconte une personne dans des vidéos Youtube. Des vidéos explicatives sur des sujets comme par exemple : « comment changer sa roue de vélo ».

La vidéo est un outil d’expression qui n’est pas a la porté de tout le monde. La réalisation d’une vidéo coute chère, idéation, recording, montage, acteurs etc… Je pense que tu n’as pas conscience a quel point il est difficile de trouver la bonne vidéo qui colle a une idée.

Des outils comme Midjourney. Sora etc… nous permettent a nous créateur d’itérer très rapidement et d’arriver avec des productions abordables pour des gens qui n’ont pas forcément 6000$ à mettre dans une vidéo de 15secondes.

Sora va permettre sa démocratisation et son adoption en masse.

Pour une vidéo faite par IA (Sora ou autre), il faudrait intégrer de manière systématique, au minimum, un petit pattern vers le centre de l’image (histoire qu’un simple crop ne puisse pas empêcher ça) qui ne saute pas aux yeux mais qui soit détectable si on sait ce qu’on cherche.
Ça n’empêcherait pas des personnes mal intentionnées de supprimer ce pattern, mais ça éviterait que n’importe qui puisse poster des fakes sur tous les réseaux sociaux.

Quel agressivité… mais bon rien d’étonnant non plus compte tenu de l’incroyable développement dont tu fais preuve dans tes réponses.

2 « J'aime »

Effectivement, il y a une grande différence entre consommation et création. Par contre, c’est une autre façon de créer qui sera pas à la porté de tous non plus, et pas forcément aux mêmes personnes. Mais ça c’est le principe de l’évolution.

En fait, si a tout petite échelle, j’ai fais des montages avec des copains pour accompagner des concerts quand jetais étudiants (ça plus de 25 ans)… et effectivement on a passé beaucoup d’heure a sélectionner des extraits pour les assembler. C’était du bricolage, des tests de la découverte.
On a aussi filmé plusieurs pièce de théâtre et autres spectacles dans mon établissement.
Que du bricolage, très très loin de ce que doit être le travail de ceux qui en vivent. Et j’imagine certainement pas du travail nécessaire en tant que professionnel…
Pour autant, il y a un écart toujours important entre ce que l’on imagine et le rendu que l’on obtient. Comme tu le dis c’est un métier. Mais c’est aussi parce que cette difficulté, que j’imagine qu’il faut faire plusieurs essais avec une IA générative pour aboutir à un résultat, comparer les résultats entre eux etc… Sur ce fait, je me demande le réel gain de temps.

Ok je veux bien l’entendre, mais concrètement tu penses faire quel gain sur une vidéo ? est-ce adapté à tous les formats ?

@Sodium exactement … le problème est que le gens critiquent sans connaitre… sur tout et importe quoi… VE, Bitcoin, etc…

Belle techno, pour le meilleur comme pour le pire. Il faudra que nos gouvernants veillent bien à ce que : 1. le filigrane de ces vidéos générées par IA existe systématiquement, 2. soit ultra costaud (pour ne pas être falsifié / supprimé), et surtout, 3. qu’il soit possible et aisé POUR TOUT LE MONDE d’aller vérifier ce filigrane quand et comme il le souhaite pour éviter le deep fake. Et enfin, 4. qu’openAI n’ait pas la super idée de faire payer ce genre de vérification, qui serait un business plan aussi pervers que rémunérateur !

En ce moment les créateurs piochent dans des bases vidéos gratuites ou payantes. Quand un Youtuber, même à plusieurs millions d’abonnés, a besoin d’une vidéo aérienne d’une pyramide de 5 secondes, tu imagines bien qu’il ne part pas en Égypte avec son petit drone pour la faire. Donc non seulement il n’a pas forcément exactement ce qu’il veut puisqu’il doit choisir des extraits, mais en plus il y a de bonnes chances de retrouver le même extrait dans d’autres productions - à moins de payer un droit d’exclusivité mais c’est hors de prix.

Pas mal de Youtubers qui vont de la vulgarisation scientifique font des millions de vues. Tu divises par 1000 le nombre de vue pour obtenir à peu près ce que reverse Youtube et ça ne comprend pas les sponsors.

Les gens qui s’y connaissent vraiment en tech savent que le Bitcoin est une immense merde. Ca n’est vraiment pas la peine de revenir polluer un autre sujet avec ta propagande de crypto-bro :wink: