Forum Clubic

Commentaires : AI Dungeon : quand le maître du jeu est une IA, l'aventure tourne vite en cauchemar

En 2019, un jeu de rôle sur navigateur
ambitieux mettant en avant la collaboration humain-IA voyait le jour. Depuis, l’aventure s’est transformée en un cauchemar sordide.

Encore un beau projet parti en sucette…

L’humain et sa bêtise avilissante…

1 J'aime

« de découvrir des facettes inexplorées de leur psyché », mouais, pas sûr que vouloir -------« festoyer »— avec des mineurs ça soit de l’exploration de facettes cachées. Le problème vient d’ailleurs. Mais bon…

3 J'aime

L’IA ne remplacera jamais un DM(donjon master ou MD maitre du jeu) humain.

Elle est pourtant sensé le faire dans ta future bagnole…

2 J'aime

J’ai testé par le passé, et franchement, j’ai bien rigolé tellement ça a vrillé what the fuck!
Mais, je pense que tout à chacun qui décide de développer ce genre d’IA avec interaction humaine, se doit de coder certains principes moraux…

1 J'aime

Ben, il semblerait que si.

C’est là ou ça devient intélligent, une AI capable d’intégrer les notions d’âge, la loi ou la morale.

Avant on parlait de programmation (C, C++, C#, Cxyz, assembleur, Pascal, Fortran, APL, Cobol, Python, Java, etc.)
Mais ce n’était pas vendeur.
Maintenant on parle « d’Intelligence Artificielle » (IA), de « réseau de neurones » (Neural Network -NN) ou mieux encore « d’Apprentissage Profond (Deep Learning).

Et oui les humains savent maintenant expliquer le cerveau humain en profondeur et n’ont aucun souci pour définir l’intelligence : argent + savoir / connaissance.

Qui l’aurait cru que nous serions arrivés à un tel point « d’intelligence » !
Il n’est pas surprenant que l’on veuille aller sur la Lune, Mars, autres galaxies pour se faire de nouveaux « amis ».

La bagnole na rien a faire ici,hors sujet.

L’IA en DM aura des réponses préprogrammés et ne pourra pas improviser.

Donc ce n’est plus une IA qui peut apprendre mais un vulgaire bot…

Et la bagnole, ils font quoi a bouffer des milliers de kms avec leur prototype autonome si ce n’est apprendre à leur IA ?

Des milliers de km sur des 4 voies extra larges aux USA.

Certains joueurs facétieux se seraient en effet amusés à taper du texte menant l’intelligence artificielle à créer des histoires dépeignant d’horribles scènes, parmi lesquelles des relations sexuelles avec des enfants.

vraiment ? Facétieux est il un mot adapté à ce contexte ?
il existe vraiment un monde où la pédophilie est une mise en scène « facétieuse » ?

1 J'aime

Tu ne peux pas juger, oui certains, peut-être, sontfacétieux car ils aiment l’humour noir ou trash. D’autres sont de vrais déséquilibrés. On ne peut mettre tout le monde dans le même sac.

1 J'aime

Bonjour,

Projet de fou, une machine génère une histoire différente pour chaque joueur.
Certains joueurs forcent l’IA à intégrer des éléments répréhensible par la loi ou la morale.
Le problème c’est qu’avec l’IA et l’apprentissage, ces éléments risquent d’apparaître de plus en plus fréquemment et pourraient devenir banals comme avoir une épée et un bouclier pour un héros de fantasy.
Réussir à intégrer des choix moraux ou liés à l’expérience, l’histoire, la connaissance dans une IA sera une sacrée révolution.
Pour rappel, cette IA n’est pas un bot avec des scripts mais compose une partie de l’histoire en fonction des choix de l’utilisateur et grâce à l’apprentissage avec les autres utilisateurs, les histoire évolue se spécialisent, se complexifient.

1 J'aime

Pourquoi je ne pourrais pas juger mais toi oui ?
En quoi ce serait une facétie et un s’amusement de mettre en scène des actes de pedophilie ?
Tu aurais un exemple à l’appui ?

Je reste intrigué par ce paragraphe sur la notion de facétie.

Pour terminer, j’ai relu mon message et je ne vois a aucun moment un jugement, bien que pourtant, cela s’y prêterait pleinement.
je m´interroge en 2 lignes sur l’usage du mot « facétie » en parlant de pedophilie.
Ainsi qu’une interrogation sur un quelconque contexte « facétieux » associé à la pedophilie.

Ma femme a fait sa thèse de Master 2 sur les I.A il y a quelques années de cela et j’ai été mis à contribution pour la relecture du mémoire. Si j’ai bien compris il n’y pour l’instant que de « fausses I.A », une véritable I.A restant encore du domaine de la théorie. Ce n’est pas cette lamentable expérience qui rendra cette affirmation caduque.
Ce que je vois ici c’est que certains ont trouvé une nouvelle manière de mettre en scène leurs fantasmes sexuels, y compris ceux que la morale et/ou la loi réprouve.
Face à une telle dérive d’AI Dungeon, Latitude aurait du mettre le holà avec fermeté et supprimer toute possibilité de faire de leur outils une machine à fantasmes sexuels. Ils ont préféré une autre voie, j’espère qu’il savent ce qu’ils font.
Et je suis d’accord avec @MqcdupouletBasquez, facétieux n’était sans doute pas le mot le plus approprié ou le plus adroit dans le contexte. En outre je tremble un peu en pensant à ce que les utilisateurs d’AI Dungeon veulent dire avec « de découvrir des facettes inexplorées de leur psyché ».

1 J'aime

Ca manque de détail.
La communauté est contre le filtre parce qu’il n’est vraiment pas du tout au point et que Latitude (la société d’AI dungeon) a mis le filtre plusieurs jours sans en parler à personne.
Leur filtre rend le jeu injouable. N’importe quoi qui soit affilié à Pokemon, n’importe quel nombre en dessous de 18, la moindre mention d’enfant, jurer, carresser son chien, monter sur un cheval peut activer le filtre. Et à ce moment là, qu’est ce qui arrive? Un employé de Latitude va lire cette histoire, ainsi que tes autres histoires (censée être « « privées » »). Et pendant plusieurs jours, personne n’était au courant que ça arrivait, les gens voyaient juste que des fois l’IA ne savait pas quoi dire quand dans leur dos, un employé lisait le contenu qu’ils écrivaient pour eux même.
Et c’est que le début, l’un des créateurs laissaient entendre qu’ils comptaient accroitre encore la censure (pas mal de fétiches, même légaux, y passeraient. ).
J’ai envie d’ajouter que c’est un service payant (10€ par mois pour un accès limité à la meilleure AI, 50€ par mois pour un accès illimité à la meilleure AI. ).

Ensuite, Latitude a eu une brèche de sécurité, l’a fixé et deux semaines plus tard a eu encore la même brêche de sécurité, ce qui a permis à un hacker de récupérer l’intégralité des histoires privées sur le site, nom d’utilisateur compris. Latitude n’en a bien sûr pas parlé à sa communauté et sa communauté l’a appris via un rapport fait par le hacker.

Si certains lisaient le marquis de Sade ici ils prendraient peur je crois.