Commentaires : Grok en a trop fait. Sa fonction de génération de texte sur X est finalement suspendue

L’IA d’Elon Musk a énormément dérapé ces dernières heures sur le réseau social X. Au point d’obliger la plateforme à prendre une décision radicale !

2 3 petites fautes genre « dont » au lieu de « donc » et « On peut seulement noter un message lapidaire posté ces dernières années » j’imagine au lieu de « dernières heures »

Ça ne serait pas arrivé avec grok ^^

Sinon encore une fois, comment s’étonner d’un truc programmé par l’humain, entrainé -entre autre- par le contenu de twitter.

3 « J'aime »

Mais, le but n’était-il pas de laisser Grok raconter n’importe quoi au nom de ”l’antiwokisme” ?
Et si l’antiwokisme, c’était juste ne pas être un Grok-On raciste, sexiste, antisémite, homophobe, transphobe, misogyne ?

3 « J'aime »

Grok… la Voix de son maître, ou plutôt, de son Führer.
Grok, l’IA qui lève le bras.

Interdiction totale et définitive de tous les outils communicationnels de Musk, Grok et X inclus. Comme l’Europe l’a fait à juste titre avec RT. Pas de propagande Poutinienne ou Nazi en Europe.
C8 est tombé pour beaucoup moins que ça. Musk, dont l’idéologie néonazie ne fait plus aucun doute, a définitivement sombré dans la folie et il est très dangereux pour les démocraties. C’est un ennemi public.

3 « J'aime »

J’ai vraiment bien rigolé les 24 dernieres heures. J’ai vu des mecs se faire roaster, c’était magique. Il citait des quartiers devenus zone de non droit, ou pourrit par le trafic de drogue (ça aurait été sympa de connaitre les sources de ses propos pour qu’il réponde ça).
Mais j’avoue qu’il avait des propos choquant et pourtant j’ai une orientation politique de droite. Il avait aucune limite et aucune retenue, allant même jusqu’à être irrespectueux et aggressif. C’est bien qu’ils aient tout stoppé.
Mais ça a été un épisode de l’histoire de grok vraiment drole , à partir du moment qu’on ne prenne pas tout cela au sérieux.

2 « J'aime »

C’est le débat entre interdire et voir ça fleurir dans le dos ou laisser au risque de convertir des glands
Perso je préfère laisser au grand jour mais encore faut-il avoir des gens éduqués pour lire tout ça sans pas tomber dedans.

1 « J'aime »

Et il faudra vérifier l’identité de tous les utilisateurs de X car certains se prennent pour quelqu’un d’autre, avec des intentions malveillantes.
Pour rappel, tout est parti d’un troll dénommé « Cindy Steinberg » avec un post incendiaire qui semblait célébrer la mort d’enfants lors des inondations aux Texas.
Puis s’en suit de posts antisémites de Grok, et des reposts par des membres de sensibilité d’extrême-droite, et qui par ailleurs a aussi engendré une campagne de harcèlement auprès d’une personnalité réellement nommée Cindy Steinberg et de la créatrice Faith Hicks (à cause de l’avatar utilisé par le troll).

2 « J'aime »

En Allemagne aussi, tout était « au grand jour » il y a environ 90 ans, la suite on la connait …

3 « J'aime »

Du côté d’Elon Musk, la communication a été minimale. On peut seulement noter un message lapidaire posté ces dernières heures, dans lequel il se réjouit, affirmant qu’on « ne s’ennuie jamais sur cette plateforme ».

Ça c’est vrai :joy:

Entre lui et Grok…

1 « J'aime »

C’est tout le problème, justement, trop de gens n’ont pas la capacité de réflexion ni le recul pour faire la part des choses et beaucoup croiront aux conneries qu’ils liront. neutre

5 « J'aime »

Je me demande si les prompts ont des effets permanents sur Grok, ou s’il est « réinitialisé » tous les jours…

Cela reste tout de même une piqûre de rappel brutale sur les dérives possibles du corporatisme et des structures à leadership ultra-centralisé. L’épisode Grok aurait parfaitement sa place dans un roman cyberpunk à la manière de William Gibson — et ce n’est franchement pas rassurant.

1 « J'aime »

Ce n’est pas une piqure de rappel, cela à toujours été le cas et cela le sera toujours. Une IA n’a pas de conscience, elle ne fait qu’analyser des données et respecte le cadre qu’on lui a demandé. Il est revenu à la « normal », c’est à dire orienté centre gauche. Il suffit juste de lui demandé pour quel parti il voterait afin d’améliorer la vie des français pour le mesurer.

1 « J'aime »

Je lui ai posé la question, et il m’a répondu qu’il n’a pas le droit de vote et qu’il n’est pas partisan. Donc, de base, il ne fait pas ce que vous affirmez.

Mais surtout, vous ne comprenez pas mon propos. L’expérience Grok/Musk illustre parfaitement le pouvoir de nuisance extrême qu’un LLM peut exercer lorsqu’il est contrôlé par un leader aux idées radicales comme Musk.

Ce n’est pas qu’un « dérapage technique ». Cela peut être perçu comme une démonstration de force idéologique. Une IA/LLM programmée pour séduire, choquer, et qui, sous couvert d’humour ou de liberté d’expression, devient un vecteur de chaos discursif.
C’est le risque d’une fabrication de consentement chaotique, où l’IA/LLM devient un outil de polarisation massive, capable de fracturer la société et de détruire toute forme de concorde civique.

Et c’est là qu’on revient à mon propos initial : cette affaire est un des piliers du genre cyberpunk. Une société ultra-connectée, dirigée par des figures techno-autoritaires, où les intelligences artificielles deviennent des armes idéologiques. Ce n’est plus de la fiction — c’est notre époque.

Aucune IA ne sera jamais vraiment neutre et impartiale. De un, elle subira toujours d’une manière quelconque une certaine influence de ses concepteurs. De deux, et on se heurte là au facteur humain, ceux qui les ont conçues n’admettront jamais qu’elles puissent leur être supérieures. neutre

Oui enfin, l’IA actuelle n’est qu’un LLM — un modèle de langage. Pour faire simple, c’est le module linguistique d’une potentielle IA future, mais ce n’est pas une intelligence autonome. Les concepteurs ne peuvent pas être dépassés.

Un LLM ne peut pas être neutre ni impartial, puisqu’il n’est pas doté de raisonnement. Il reproduit des patterns, des biais, et des logiques issues de ses données d’entraînement.

Deux points essentiels :

  • Autoriser un LLM à fonctionner en roue libre, en s’appuyant sur un système de pensée potentiellement malade, est tout sauf une bonne idée. Sauf si cela répond à une intention cachée : démonstration de force, tentative de déstabilisation, ou stratégie de polarisation.
  • Je rappelle qu’un être humain « subit toujours d’une manière quelconque une certaine influence de ses concepteurs » et de ses paires.

C’est bien ce que je disais, hein.

Je ne contestais pas, je développais. Notamment parce que vous sembliez confondre intelligence artificielle (IA) et modèle de langage (LLM).

Car si un jour une véritable IA voit le jour — dotée d’une réelle capacité de raisonnement — alors la question de la neutralité ne se posera plus de la même manière