Commentaires : Mettre l'IA en pause ? Pourquoi Bill Gates n'est pas d'accord

Pour Bill Gates, mettre en pause le développement de l’intelligence artificielle ne serait pas la solution aux défis posés par la technologie.

1 « J'aime »

Arrêtez de parler de l’IA. Ça n’existe pas et n’existera jamais. Ce sont juste des programmes qui appliquent bêtement ce qu’on a programmé de A à Z.

2 « J'aime »

Car MS à investi des milliards dans Open AI ?

8 « J'aime »

Cette question de mise à l’arrêt du développement de l’IA se pose à cause des problèmes éthiques et moraux qu’elle peut poser selon les cultures et les pays. Je ne pense pas que cela soit justifié parce que l’humain peut faire pire de ses propres mains avec un clavier en face de lui. C’est lui qu’il faut modérer et l’IA à améliorer.

Le gars a sans doute plein de tunes placés via sa fucking fondation qui œuvre pour « le bien de l’humanité »…

4 « J'aime »

Quoi qu’on puisse penser de Bill Gates, il a raison, ici. Ce n’est pas parce que quelques occidentaux vont arrêter de travailler sur l’IA que le reste du monde va suivre, Chine en tête. Qui peut croire qu’ils vont dire « oh oui, Elon Musk et ses amis ont raison, arrêtons nos recherches sur l’IA pour leur faire plaisir ». La recherche technologique est une course dans tous les domaines, personne ne cédera sur rien. Si on doit aller à la catastrophe, vous pouvez parier qu’on ira parce que personne ne voudra lever le pied.

7 « J'aime »

Parce que : newatlas . com/technology/ai-danger-kill-everyone/

Toi aussi, tu as appris depuis ta naissance avec des textes et des paroles de tes parents !
L’IA est né hier et grandira comme un bébé devenant adolescent… :sunglasses:

4 « J'aime »

JE vois surtout un vieil homme qui en a rien a secouer.

Dans max 20 ans il sera cané, donc autant continuer la fuite en avant.

Et en même temps, à 50 balais et sans enfant, je vois moi aussi la vie différemment, et au dela de mes idées écolo, il y a des choses depuis quelques temps RAF.

2 « J'aime »

j’suis bien d’accord avec lui, n’arretons pas en si bon chemin

DEVELOPERS!! DEVELOPERS!! DEVELOPERS!! DEVELOPERS!! DEVELOPERS!! * transpiration sous les bras *

:face_with_hand_over_mouth: les débuts de la TV aussi avait des luminaires à la Super Trouper (ABBA)

C’est juste pas la même équipe de maquillage.

Fini les casses pieds. On sait pas faire, l’IA fera !

Les IA qui font l’actualité actuellement sont des programmes qui simulent le fonctionnement de neurones (pour la plupart). Elles ne sont pas programmées pour faire une tâche précise, elles apprennent à le faire.

Tout comme l’intelligence naturelle est le résultat d’un programme « générique » (ton code ADN) qui va ensuite apprendre à effectuer des tâches.

Même les IA en apparence ultra-spécialisées, comme celles qui jouent aux échecs, elles ne sont pas forcément programmées pour : elles apprennent en jouant au jeu contre elles-même et/ou en regardant des parties d’autres joueurs (certaines IA apprennent même les règles simplement sans qu’on ne les leur ai données explicitement, par observation de parties existantes ou par essai/erreur : elles jouent sous contrôle d’un arbitre qui a chaque coup qu’elles jouent leur dit simplement s’il est ou non autorisé par la règle (mais sans jamais donner la règle ou pourquoi le coup n’est pas conforme à la règle)).

Quand par exemple une IA apprend à reconnaître des photos de chat, à aucun moment le développeur qui a écrit le code de cette IA n’a programmé la reconnaissance de photos de chat (et pour cause, je pense qu’aucun développeur ne serait capable de programmer ça avec un tel niveau de fiabilité que ce à quoi arrivent les IA…). Et dans les IA ayant plusieurs couches de réseau de neurone, les auteurs de ces IA ne sont souvent même pas capable de décrire l’organisation interne du réseau de neurone, car cette organisation n’est justement pas programmée et pas non plus « visible » de l’extérieur.

C’est d’ailleurs un des points sur lesquels certains états voudraient imposer une réglementation de l’IA, en interdisant d’exploiter des IA dont on n’a pas décortiqué et compris le fonctionnement interne.

10 « J'aime »

Le code résultant ne ressemble à rien qu’un programmeur écrirait. Il s’agit principalement d’une matrice colossale de nombres décimaux, chacun représentant le poids, ou l’importance, d’une connexion particulière entre deux « jetons ». Les jetons, tels qu’ils sont utilisés dans GPT, ne représentent rien d’aussi utile que des concepts, ou même des mots entiers. Ce sont de petites chaînes de lettres, de chiffres, de signes de ponctuation et/ou d’autres caractères.

Aucun humain vivant ne peut regarder ces matrices et en tirer un sens. Les meilleurs esprits d’OpenAI n’ont aucune idée de ce que signifie un nombre donné dans la matrice de GPT-4, ou comment aller dans ces tableaux et trouver le concept de xénocide, et encore moins dire à GPT que c’est méchant de tuer des gens. Vous ne pouvez pas taper les trois lois de la robotique d’Asimov et les coder en dur comme les directives principales de Robocop. Le mieux que vous puissiez faire est de demander gentiment.
(Traduit par IA)

1 « J'aime »

Quand Elon Musk dit quelque chose, mon premier réflexe est de me demander ce qu’il a derrière la tête, suis-je le seul ?

Les IA qui font l’actualité actuellement sont des programmes qui simulent le fonctionnement de neurones (pour la plupart). Elles ne sont pas programmées pour faire une tâche précise, elles apprennent à le faire.

Programmer une IA ?

Un système expert, oui. (plein de if then else)
Une IA, cela apprend, la plus primitive est le perceptron multicouches, donc une modèle de réseaux de neurones qui " peut apprendre et reconnaitre ".

L’IA qui ne saurait pas la " vérité " suite à un apprentissage erroné.

Superman, le premier film, inversion de la rotation de la Terre pour remonter le temps.

Un de mes anciens prof de math a réussi à nous montrer un résonnement par l’absurde qui fait que le périmètre d’un cercle à la même mesure que son diamètre.

Comme dit dans plusieurs commentaires, les IA ne sont pas des programmes qui appliquent bêtement ce qu’on a programmé. Ce sont des réseaux de neurones. Cette technologie a été inventée dans les années 1950 mais ce n’est que dans les années 1990 que leur organisation en autoencodeurs a permis de faire de gros progrès en laissant la machine déterminer la structure sous-jacente des entrées. Plus récemment, le mécanisme d’attention a permis d’établir des corrélations supplémentaires. Les mots sont découpés en sous-unités porteuses d’un vecteur de signification. Le résultat est que la machine est capable d’avoir une compréhension du sens et de généraliser les concepts. Quant à savoir si cette technologie est dangereuse, je le crois. Stephen Hawking disait que l’IA pourrait causer la fin de l’humanité et selon Musk l’IA pourrait être encore plus dangereuse que l’arme nucléaire.

2 « J'aime »

Non pas du tout.

Tout cela est vrai.

Néanmoins : tous les NN actuels sont basés sur nos observations des neurones dans la rétines; le seul endroit du cerveau où l’on voit une organisation en grille des neurones. On n’a toujours pas assez de connaissance sur l’organisation du gros du cerveau. Et de l’aveu même de LeCun et autres à la pointe du domaine : on n’a passé que la première colline, il en reste encore énormément avant de pouvoir faire une vraie AGI/HumLvlAI.

1 « J'aime »

Certains commentaires témoignent d’un obscurantisme voire d’une bêtise que je ne pensais pas rencontrer sur ce site. Quand on voit qu’une IA fait peur à ce point à des humains, on comprend que ceux-là même se sentent menacés.
L’IA ça existe, mais si c’est en dehors de votre compréhension, faites au moins l’effort de vous renseigner pour comprendre que comme tout apprentissage, ce n’est pas magique. De la même manière qu’avant de savoir parler ou même tenir une cuillère pour manger, on vous l’a appris. Après 20 ans d’apprentissage continu de nombreux humains ne sont pas encore au point dans un paquet de choses élémentaires, et certains passeront toute leur vie à ne pas comprendre leur prochain. On ne peut pas s’attendre à ce qu’un « gros programme informatique » ait un raisonnement, même primitif, en l’espace de quelques années. Mais ça viendra, ça viendra…

1 « J'aime »