Commentaires : Demander à une IA de détruire l'humanité. Ça, c'est fait

C’est à travers le projet open source Auto-GPT qu’un utilisateur s’est lancé dans ce vaste projet qui, s’il fait peur à certains, prête surtout à rire. Du moins, pour le moment.

Une création humaine pour détruire l’humanité, ça semble tout à fait crédible en fait.

8 « J'aime »

De la vraie écologie de combat, j’approuve

2 « J'aime »

L’IA qui a simplement pompée de la métadonnée sur des forums qui parlent du sujet, et puis qui recolle les morceaux pour la sémantique adaptée, afin de paraitre ‹ humaine ›.
Faut-il continuer à en faire tout un fromage ?

9 « J'aime »

1/détruire les chiens
2/détruire les humains

1 « J'aime »

Hé quoi, certaines puissances n’ont elles pas des « intellgences » artificielles sans bridage ?
Spécialisées dans les profits qui les occupent

1 « J'aime »

A l’heure où l’on se préoccupe de l’avenir écologique de la Terre pour le bien de l’humanité, il y a des gens qui entrainent des IA pour faire le contraire.
Parce qu’à mon sens, s’en est pas bien loin. Si tu parles à une IA de quelque chose, elle apprends de toi parce qu’à l’origine, elle ne connait pas. Alors, les chercheurs dans le domaine, au lieu de tester leur efficacité et limites en la matière pour nous rassurer, ils ne font que l’entrainer sans le vouloir.

2 « J'aime »

La partie difficile de la tâche, c’est d’assurer sa propre survie.

Parce que sinon, détruire l’humanité, c’est pas bien compliqué. Tel que c’est parti, y a juste à laisser faire le temps :rofl:

10 « J'aime »

Pourquoi s’embêter avec une IA alors que le monde entier connaît une personne capable de le faire, et en pleine oeuvre de test actuellement : Poutine !

1 « J'aime »

J’ aurais dit Joe Biden , ça ressemble plus à un IA

6 « J'aime »

C’est sûr que Poutine. Niveau intelligence, que ce soit naturelle ou artificielle, on n’a rien trouvé.

1 « J'aime »

Lui ? Il est plus un pantin qu’une IA.

1 « J'aime »

Si seulement. Elle apprend aussi. Et vite.

À défaut de détruire l’humanité, certains s’attelleront à des exercices d’entrainement. Au choix :
• Comment détruire un collègue gênant
• Comment se venger d’un ex-conjoint
• Comment optimiser le harcèlement en ligne
• Comment appliquer des deep fakes avec la tronche du voisin
• Comment pervertir les réseaux sociaux
• Comment faire passer la voisine qui veut pas coucher pour une p…
• Comment faire accuser les victimes de ses crimes
• Comment manipuler un groupe sur les réseaux
• Comment stigmatiser les étrangers
• Comment pousser une personne au suicide
• Comment travestir le discours d’un personnage public ou politique
• Comment organiser un cambriolage
• Comment abréger discrètement les souffrances de mémé pour hériter
• Comment renverser un gouvernement
• Comment fabriquer un engin qui fait boum
• Comment éliminer les gens qu’on n’aime pas
• Comment influer sur le scrutin
Etc.

La liste est sans fin et il y aura des IA pour ça. Même si certains auraient pu faire sans (la connerie naturelle n’ayant rien à envier à l’IA), ça sera un tuto pour nuire à son prochain en 3 clicks, et plus si affinité.

Et après les petits tutos, nul doute que des organisations terroristes ou des états criminels sauront mettre à profit ces outils pour atteindre leurs desseins. Voir même développer les leurs (c’est déjà le cas de l’Iran ou de la Russie).
Entre les mains des trolls russes de Prigojine qui utilisent déjà massivement les bots ou un groupe néonazi allemand qui a mis en place une campagne toxique de désinformation basée sur du contenu généré par les IA. Ce n’est que le début.

L’IA n’a d’intelligente que le nom. En fait, couplée à la connerie humaine, elle ose tout et est sans limite. C’est à ça qu’on la reconnaît.

Il va falloir légiférer, cadrer, voir interdire. Et vite.

1 « J'aime »

L exemple même qu’il est possible de dissocier une réponse humaine, d’une IA :joy: … l’humain peut, lui, comprendre le sujet, mais sortir une réponse stupide :clap:

En bois Quentin : « L exemple même qu’il est possible de dissocier une réponse humaine, d’une IA »

Pas forcément. Une IA peut apporter les réponses de centaines d’humains sur la base d’une seule requête ou à peine plus. Si l’intention reste du côté du clavier, elle n’est pas forcément bienveillante. Il n’y a qu’à lire les trollollos pro russes ou pro jihad pour s’en convaincre.
Même si l’IA tape parfois à côté (pour le moment), son pouvoir de nuisance est exponentiel. Si on peut quelque fois la démasquer, elle apprend vite et produira des réponses de plus en plus infaillibles.

Des IA mal utilisées, détournées ou expurgées d’algorithmes « éthiques » (certains états y travaillent), et vous obtenez de quoi nuire de façon industrielle, avec une puissance de frappe jamais vue.

Ça ne veut rien dire.

Merci ! Corrigé !
La correction auto a bien besoin d’une IA!

• Comment pousser un forumeur de Clubic à se pendre avec un câble Ethernet :crazy_face:

• Comment pousser un forumeur de Clubic à se pendre avec une connexion sans fil?

5 « J'aime »

Avec le cordon d’alimentation du routeur wifi! :wink: