Commentaires : Le responsable d'OpenAI veut un "bouton d'arrêt d'urgence" gravé à même le silicium, au cas où

Ah?

Vous maitrisez mieux l’IA que Geoffrey Hinton, vous devriez postuler au prix Turing.

1 « J'aime »

Oui voilà. Allez mon ami, fais nous un petit Mistral et valorise le à 10 milliards. « c’est pas sorcier ».

C’est un peu exagéré. Ils savent assez bien comment leur création fonctionne. Par contre, oui, ils ont été surpris que ça puisse marcher aussi bien.

Oui, enfin, t’as aussi des spécialiste dans le domaine qui disent clairement que le mec exagère (Au hasard Yann LeCun). C’est pas parce que tu es intelligent et super calé dans un domaine, que tu ne peux pas partir des trucs complètement délirant. Je le vois très souvent dans mon boulot dans la tech.
Ce qui est génial c’est qu’avec internet, les gens prennent les mecs qui bossent dans un domaine, soit pour des fumistes sont soit pour des genies. Il n’y a jamais le moindre niveau de nuance et j’ai tendance à penser que les youtubeurs/influenceurs accélèrent ce phénomène. Ensuite une fois que les gens ont commencé à gober un discours plus qu’un autre, ils n’arrivent plus à faire machine arrière ou difficilement. En terme de post vérité, ça va très loin et même ceux qui se pensent le plus « rationnel » suivent la meute, sans la moindre précaution, dès que leur youtubeur favori dit quelque chose dans un sens.

2 « J'aime »

Bon, Yann LeCun est classé dans les optimistes (béa?) de l’IA. Et surtout, détail important, il y travaille encore, donc même sans parler du conflit d’intérêt financier, il y a un biais car il ne va pas critiquer là où il travaille. Et puisque vous parlez « des spécialistes », vous avez qui d’autre ?

Et sinon, vous pensez que ceux qui travaillent dans l’IA savent très bien ce qui se passe à l’intérieur?

Sans parler du fait qu’il y a un monde en les lapalissades du type « être intelligent n’interdit pas de dire nawak » et « sur ce point il dit nawak ». Mais c’est bien de douter et de confronter les avis d’experts. Faudrait juste les avoir :sweat_smile:

Je pourrais aussi répondre que Geoffrey Hinton a clairement un biais idéologique à ce petit jeu on pourrait y passer longtemps. Clairement votre propos montre que vous faites partie des « pessimistes non béa » .
Moi ce que je fais c’est un appel à la nuance. Après libre à vous d’écouter plus tel ou tel type. Chacun est libre son avis, je frequente aussi des gens cathos convaincus qui croient à l’enfer. Généralement, je donne mon avis et ils sont pas d’accord… et je vais pas plus loin, parce qu’osef quoi :slight_smile:

Les avis des experts ? Je vais vous dire mieux. Sur clubic, vous n’aurez qu’un vague aperçu du domaine qui font le buzz.
Et mon propos n’a rien d’une lapalissade. Oui, ça peut sembler évident pour certains, mais il suffit de suivre un petit fil de commentaire quelconque pour se rendre que ça ne l’est pour pas grand monde.
Quand on affirme des choses énormes (Genre à cause de l’IA ça va etre la fin du monde et oui, effectivement, je confirme qu’il y a des ingénieurs sérieux qui le pensent. J’ai meme eu le droit à présentation qui se voulait plus sérieuse qu’elle ne l’était réellement, dans mon cadre pro semaine dernière ), il faut des preuves énormes. Jusqu’ici, je ne les ai pas vu.

Mon pessimisme vient juste de la position des optimistes béas, qui poussent à ne rien faire et à ne rien réguler : le passé des réseaux sociaux, où l’on a appliqué la même méthode, pousse à la méfiance : c’est devenu la source de la déstabilisation de nos sociétés. Les algorithmes non régulés, au nom de l’innovation, de la liberté, ont favorisé les idées les plus violentes.
Je suis partisan que l’on applique à tous ces outils numériques les mêmes règles que l’on applique aux médicaments, à la chimie en général : on vérifie que les nouveautés apportent un plus avant d’être homologué.