Commentaires : Pourquoi les experts et Elon Musk veulent stopper l'expérimentation des IA plus puissantes que GPT-4?

Débat sur l'actu
23

le pragmatisme et l’humanisme ne sont pas forcément des vecteurs d’esprit critique, ça n’a rien à voir.
face à des fake news ou à une bonne vieille propagande d’état, tes grands parents descolarisés auraient réagi exactement comme l’ont fait les allemands ou les paysans soviétiques, khmers ou chinois.
c’est à dire plutôt (très) mal.

et de façon certaine, guère mieux que notre jeunesse idiocratique.
En parlant d’église au milieu du village : quel magnifique symbole d’aliénation commune auxquels là aussi pas mal de nos jeunes échappent aujourd’hui, vecteur de tabous, d’à priori, de patriarcat, de biais de holliganisme de groupe, etc etc. véhiculés par des grenouilles de bénitier souvent bien malintentionnés et crus sans le moindre esprit critique par les même anciens qu’on aurait pourtant envie de définir comme adeptes du « bon sens paysan »

24

Je pense qu’on est en plein dans le conflit d’intérêt et c’est clairement hypocrite de sa part.
C’est un peu comme si Bolloré signait une tribune pour l’indépendance des médias.
Le fait qu’OpenAI, avec le temps n’ait plus d’ « Open » que le nom en dit beaucoup sur la différence entre leur communication et leurs actes. Qu’ils commencent d’abord par appliquer à eux-mêmes les règles qu’ils veulent imposer aux autres. J’aimerais également rappeler que les réponses de ChatGPT sont pour l’instant muselées pour correspondre à certaines opinions politiques plutôt qu’à correspondre à une réalité scientifique. Donc leur souhait d’avoir des IA transparentes et dignes de confiance est complètement utopique, soit elles iront dans le sens de leurs créateurs et de ceux qui les contrôlent, soit elles n’auront aucun garde fou et seront entraînées à ne s’exprimer que sur des faits et notions vérifiables et vérifiées même si cela va à l’encontre des croyances, minorités, lobbies et bienpensants.
Quelle est la solution la plus dangereuse selon vous?

1 « J'aime »
25

Effectivement vous avez raison , j’aimerais bien qu’on me définisse exactement ce qu’est un emploi gratifiant et pour qui

26

Il a quitté la société en 2018.

27

A noter que cette lettre ouverte a pas mal de problèmes : fausses signatures de personnes ne l’ayant pas signé, motivations et méthodologie incertaines…

The letter immediately caused a furor as signatories walked back their positions, some notable signatories turned out to be fake, and many more AI researchers and experts vocally disagreed with the letter’s proposal and approach.

29

Il est sur que si l’on automatise tous les emplois non"gratifiants",les politiques ont du mouron à se faire,puisque politque n’est pas un emploi,et qu’il faudrait donc,créer un Pôle emploi spécial ENA…

1 « J'aime »
30

Hello, je dirais que pour certains, c’est les 2.
Mais oui, il y a danger c’est certain mais parallellement, ceux qui ont créé le bordel disent stop c’est pour garder leur suprématie…ils sont pas betes…c’était prévu.

31

Bien sûr, toi tu n’es pas un « aïeux archi idéologisé », toi tu es un dieu…Tu sais tout, même ça.

32

Bien sûr, toi tu n’es pas un « aïeux archi idéologisé », toi tu es un dieu…Tu sais tout,

ne le prend pas mal, mais c’est un fait sociologique : les populations étaient beaucoup plus polarisées et idéologisées, dès l’enfance, jadis.

Tu étais de « famille » militaire, souvent sur plusieurs générations, tu votais à droite républicaine dure et tu étais catho, idem pour la bourgeoisie catho traditionnelle, et ça lisait le Figaro.
y’avait un vrai mépris de classe, et il y avait d’ailleurs une classe sociale entière qui a disparu en 14 : les rentiers, avec des gens comme Marcel Proust qui n’ont jamais tenu une poignée de porte de sa vie parce que la bonne lui ouvrait.

Valeurs étrangement à peu près partagées par les agriculteurs, sûrement par héritage du servage, respect de la terre, du chef politique et religieux etc.

Ou bien tu étais de « famille » ouvrière, totalement gagné par l’idéologie communiste à défaut de l’être (communiste), tu rejoignais CGT ou FO et ça lisait l’Humanité - et tu avais ces deux grands pôles qui séparaient la société comme ça.

Et en france tu n’avais à peu près pas de vrai centre libéral, le reste de la société, urbaine, étudiante, fonctionnaire ou bossant dans les services, tout aussi idéologisée, politisée à mort, lisait libé et votait socialiste qui était un peu malgré ses électeurs, socio-libéral.

C’était beaucoup plus polarisé et idéologisé qu’aujourd’hui ou la société a explosé en une multitude de groupes qui sont pour beaucoup eux même peu idéologisés (même si certains le sont de manière très radicales) ,

c’est juste un fait social, insulter le thermomètre ne fait pas baisser la fièvre.

33

J’ai déjà essayé, mais, c’est vrai, ça ne marche pas ! :grin:
« les populations étaient beaucoup plus polarisées et idéologisées, dès l’enfance, jadis. » et toi, bien entendu, tu aurais su quoi faire, à ce moment-là.
Elever des enfants, c’est naturel, « on » sait ce qu’il faut faire…C’est l’évidence même.
Quand il faut faire des choix, « on » est seul.
Apparemment, tu n’en es pas encore là.
Je te souhaite que cela t’arrive le plus tard possible. Crois moi, c’est un moment terrible.

34

On peut voir ça comme ça, ou se demander aussi si les États-Unis n’ont pas peur des progrès que pourrait réaliser la Chine…Parce que cette « pause » devrait concerner qui, les pays occidentaux ou tout le monde? Même les pays comme la Corée du Nord, la Biélorussie ou la Russie, l’Inde, etc.?

35

Surprise (non) ! Musk créé une nouvelle compagnie pour concurrencer OpenAI, DeapMind et co. La vraie raison pourquoi il voulait mettre ses (futurs) concurrents en pause ?

36

Oh non, sûrement pas, c’est super dur de résister à sa pression sociale, mais encore plus dur (et rare) de penser spontanément « en dehors de la boite ».

Ayant été moi même idéologisé/manipulé plus jeune, je sais que je n’ai aucune résistance naturelle exceptionnelle à ça (si c’est ce que ma prose t’a fait croire que je pensais ça de moi : ce n’est pas le cas)

J’en élève deux, j’essaye de leur donner l’indépendance de pensée et des méthodes critiques dont je n’ai pas disposé étant jeune.

Le fait que j’ai pu en disposer plus tard est aussi un coup du sort.

Mais Je ne me trouve pas si seul, on a énormément de ressources à disposition aujourd’hui.

37

Bonne chance ! :grin:

38

Mais enfin, sérieux !! Vous pensez ce que vous dites !! Faut ouvrir les yeux… A peine chapGPT sorti, la première chose à laquelle ce truc à servi, c’est de tricher à des examens !!! Des patrons commencent à remplacer des gens sans aucun remords !!! Et les craintes ne sont pas justifiées !!! Sachant qu’on n’en est qu’au tout début. Alors imaginez quand ces IA auront acquis des capacités augmentées. Et s’agissant de programmes informatiques, de codes, se sera de manière exponentielle, donc d’autant plus rapide…
Il faut tout simplement arrêter et éradiquer ces IA avant qu’il ne soit trop tard.
Exactement comme pour le réchauffement climatique, des scientifiques, des experts nous avaient prévenu de l’ampleur des dégâts. Mais non, les gens comme vous ont fait l’autruche et ont nié les conséquences. Résultats : c’est de pire en pire entre les inondations, les tempêtes, les incendies, les canicules, etc … Mais non, toujours les mêmes a ne penser qu’à leurs petits intérêts personnels et tant pis pour les conséquences… Cette humanité n’est qu’egoisme, nombrilisme, cupidité, avidité… Et on en est là…
Alors, faites bien joujou avec votre nouveau jouet… tant que vous le pouvez encore. Ça va pas durer… Et venez pas pleurer quand ces IA vous auront remplacé… Parce que bien sûr, elles pourront faire mieux que vous, sans prendre de vacances, sans se plaindre, 7/7 et 24/24, et sans salaire !!!

39

Il suffit de lire certains commentaires pour comprendre comment on en est arrivé là !!! Pourquoi cette humanité est vouée à disparaitre …
Déjà avec le réchauffement climatique, des scientifiques et des experts nous avaient prévenu il y a plus de 40 ans. Et qu’ont fait les hommes ? Rien … Tous ces dirigeants, tous ces grands patrons n’en avaient rien à foutre, tout ce qui comptait, c’était le pognon, les profits, encore et toujours plus… Mais aujourd’hui, on voit très concrètement les conséquences : inondations, sécheresses, canicules, ouragans, etc… Que font ces mêmes dirigeants, ces grands patrons ?? Du bla bla mais concrètement, rien !!!
C’est exactement la même chose avec ces IA. Des scientifiques, des experts, des développeurs tirent la sonnette d’alarme. A peine sorti, à quoi a servi ces IA ? A tricher à des examens, à reprendre de fausses infos et bien sûr à chercher à gruger pour gagner plus de pognon !!! Et, ça a déjà commencé, à remplacer le boulot d’humains par des IA !!!
Et tout ça ne suffit pas !!! L’homme se croit toujours au dessus de tout… Et surtout, ne regarde que le bout de son nez, son petit intérêt personnel. Il a trouvé un nouveau joujou alors tout ce qui compte, c’est qu’il puisse faire mumuse… Et tant pis pour les conséquences. Il se donne bonne conscience en clamant haut et fort que c’est pour la bonne cause, qu’il n’y a aucun danger. « Mais non, on maîtrise » !!! Ben ouais, comme pour le réchauffement climatique !!! Mais tout le monde sait que la connerie humaine aura le dessus. Que toutes ces technos sont utilisées pour le pire… Cette humanité est de pire en pire : égoïsme, cupidité, avidité, orgueil, mauvaise foi…
Comme disait Corbin : l’homme est capable du meilleur comme du pire, mais c’est vraiment dans le pire qu’il est le meilleur… Ça se vérifie une fois de plus avec ces IA…
A croire que cette humanité est devenue tellement novice pour cette planète, tel un virus, qu’elle mérite son extinction programmée… Et l’homme est devenu tellement stupide qu’il ne voit même pas le gouffre juste devant ses yeux. C’est dire si c’est grave …
Allez, à tous ceux qui ont la vue courte et qui défendent ces IA, faites bien mumuse tant que vous le pouvez encore, ça va pas durer… On va bien se marrer après quand elles vous auront remplacées… Ou pas !!! Mais faudra pas venir pleurer, on vous aura prévenu… Ça rappelle quelque chose, non !!!

40

« Il faut tout simplement arrêter et éradiquer ces IA avant qu’il ne soit trop tard. »

c’est la partie pas possible, ça.

les codes sont open sources pour plusieurs d’entre elles, et il est strictement impossible de bloquer une « idée » au niveau planétaire, c’est vouloir arrêter la marée montante avec ses doigts.

Tout au plus pourrait on imposer une éthique et des dispositifs de contrôle pour tenter ce qu’on appelle « l’alignement » (le respect d’une certaine forme de morale/éthique bas niveau dans chaque IA exploitée au moins professionnellement).

Mais interdire, c’est simplement condamner le pays qui s’y plie à un déclassement technologique