La récente annonce des modèles Zonos de la startup Zyphra vient de franchir un cap inquiétant dans le clonage vocal open-source. Avec seulement cinq secondes d’enregistrement, cette IA génère une copie presque parfaite de n’importe quelle voix, ouvrant la boîte de Pandore des deepfakes audio.
Ah là là, si « Les Nuls » avaient eu cette technologie !
y’avait déjà Yves Lecoq chez les guignols
2 « J'aime »
L’installation locale du modèle est étonnamment simple : quelques commandes suffisent pour lancer une interface Gradio intuitive permettant d’importer un échantillon vocal et de générer du contenu audio personnalisé. Cette accessibilité soulève toutefois des inquiétudes quant aux usages malveillants possibles.
Tandis qu’un modèle payant closed source comme il en existe déjà c’est mieux c’est sûr.
Ça permet d’exclure les pauvres de ce domaine, de facto réservé aux riches, qui peuvent continuer à toujours mieux gérer le troupeau servile, hein !
La cabale anti-open-source commence juste, initiée par les USA avec la grosse claque Deepseek r1 sur leur gros cul, que déjà elle est intégrée dans le mainstream ?
1 « J'aime »
La question n’est pas nouvelle.
Le problème c’est l’accès a des technologiques de pointe par des régimes autoritaires, des dictatures, des groupes terroristes etc.
Bah pour ça ils ont juste à choisir dans le catalogue israëlien… Un des plus prolifiques entre autres vendeurs d’armes numériques en vente libre à ce type de régimes.
Ce ne sont pas les seuls et il y a une énorme différence avec le fait d’accéder à une technologie opensource et de surcroît quasi gratuite (oui parce que pour rappel opensource ne veut pas dire gratuit).
Faut tout lire.
Et je n’en ai cure que ce soit open-source et quasi-gratuit, au contraire même, très bien, fin du monopole et de l’enrichissement sans bornes d’une minorité.
Ton avis personnel ne change pas la problématique soulevée ici :
l’accès facile à une technologie pour produire de fausses informations, manipuler, faire de la propagande, créer de faux témoignages etc.
C’est extrêmement grave en terme de menaces pour les démocraties, et même l’humanité entière.
Mais lol, tu vivais dans une grotte ou quoi ?
L’accès à l’IA est facile depuis que les IA sont proposées en accès libre.
Que ce soit contre rémunération ou pas n’y change rien.
T’as pas compris visiblement.
L’accès libre pause en effet oui déjà problème, mais l’accès aux sources l’encore plus car il laisse la porte ouverte à son intégration dans n’importe quelle solution, et donc une utilisation massive non désirée.