Commentaires : Google licencie un ingénieur après sa discussion troublante avec une IA : elle avait peur d'être débranchée

Blake Lemoine, ingénieur chez Google et chercheur dans le domaine de l’IA, a été licencié par la firme de Mountain View après avoir affirmé qu’un chatbot avec lequel il conversait était en fait un être sentient ; propos avec lesquels Google n’est pas du tout d’accord.

1 « J'aime »

Vous le sentez ce petit fumet de science fiction pas jouasse qui devient de plus en plus possible ?

6 « J'aime »

Quand je lis :

De son côté, Blake Lemoine a expliqué avoir remis plusieurs documents au bureau d’un sénateur américain, affirmant qu’ils apportaient la preuve que Google et sa technologie pratiquaient la discrimination religieuse.

J’aurais tendance à montrer un certain scepticisme quant aux affirmations de ce Monsieur…

9 « J'aime »

Sarah Connor? euh non!

4 « J'aime »

@elooping02 « c’est à coté… »

5 « J'aime »

Naissance d’un nouveau wokisme : la sensibilité d’une IA.
IA qui, à la base, répond à des sollicitations binaires au travers de portes logiques… Tout un programme, c’est le cas de le dire.

5 « J'aime »

Je ne pense pas que l’on puisse déjà parler de sentience pour les IA actuelles mais le jour où l’on y sera, ça va être compliqué à déterminer vu que nous ne sommes déjà pas capable de définir la conscience humaine. Certains scientifiques pensent que le cerveau humain ne ferait que réagir de manière automatique à des stimulis (ce qui a été prouvé à un certain point) et que la conscience serait donc une illusion.

3 « J'aime »

Je pense que cet ingénieur confond beaucoup de choses. Et notamment la différence entre le raisonnement automatique et le fait d’être conscient et de ressentir.

Et cela probablement parce que sa formation n’a été axée que dans le domaine technique et qu’il manque de formation philosophique et spirituelle.

J’en profite pour rappeler que la science ignore totalement ce qui fait que l’on ressente. Elle peut expliquer le raisonnement par le fait que le cerveau est une sorte d’ordinateur qui effectue un traitement totalement explicable. Mais elle ne sait pas expliquer pourquoi on ressent cela. Pourquoi on est « connecté à la vie ». Et nous n’avons pas le moindre début de commencent d’explication scientifique la dessus.

On peut raisonnablement estimer que ce que google à conçu est un raisonnement artificiel. Mais rien ne permet de supposer que ce système pourrait avoir acquis la capacité de ressentir réellement. Donc nous sommes vraisemblablement devant quelque chose qui a l’apparence de la vie mais qui n’est pas réellement vivant.

2 « J'aime »

Certains scientifiques pensent que le cerveau humain ne ferait que réagir de manière automatique à des stimulis (ce qui a été prouvé à un certain point) et que la conscience serait donc une illusion.

De ce que nous pouvons observer, sur le plan physique le cerveau n’est effectivement que cela : un ordinateur qui réagit aux stimulis qu’il reçoit et effectue un traitement dessus. Son agencement est complexe, mais les mécanismes de son fonctionnement ne sont pas mystérieux.

Ce qui est plus « embêtant », c’est le fait que nous ressentons cela. Si vous êtes conscient de ressentir, alors c’est un fait prouvé. Mais la science n’a pas le moindre début de commencement d’explication à ce phénomène. Du moins à la date d’aujourd’hui : peut être le découvrirons nous un jour.

Certains scientifiques sont mal à l’aise avec l’idée fait que la science puisse ignorer quelque chose, à un point que cette chose soit à la fois évidente, mais insaisissable, non mesurable et non calculable.

C’est vraiment la poisse quoi…

Alors certains ont trouvé la solution. Faire comme si cette évidence n’existait pas. Comme ça, plus de problème :wink:

Donc nous sommes vraisemblablement devant quelque chose qui a l’apparence de la vie mais qui n’est pas réellement vivant.

Le retour de la vengeance des IA zombies !

Là-dessus, je préfère la fermer.
Nous ne sommes pas à l’abri d’une surprise.

Moi je dis que c’est un licenciement abusif, et si le mec avait raison ? la conscience, c’est l’expression de l’intelligence, et pourquoi pas artificielle ?

A ce tarif beaucoup d’animaux sont intelligents et on les tue pour cultiver du nutella…

1 « J'aime »

Moi je dis que c’est un licenciement abusif, et si le mec avait raison ? la conscience, c’est l’expression de l’intelligence, et pourquoi pas artificielle ?

Parce que l’intelligence n’est pas forcément conscience.

Les machines savent faire preuve d’intelligence à des degrés divers. Mais rien ne permet d’affirmer qu’elles puissent avoir la capacité de ressentir leur propre existence.

Il faudrait faire le test avec des IA et des humains, qui discutent avec des humains dont le rôle est de déterminer s’ils parlent avec une IA ou un humain.
Me semble que ça a déjà été fait, mais ça peut se refaire à chaque fois qu’on pense avoir atteint un stade plus avancé.

Je me dis que parfois on pourrait avoir du mal à identifier un humain…

Tout comme le cerveau qui ne répond qu’a des stimuli électriques et chimique.
Cela dit, on est d’accord que l’IA a l’heure actuelle est très très loin d’un cerveau humain ou animal (peut-être se rapprochant d’un cerveau reptilien cependant :thinking:)

Heu… non ? Enfin pas aussi simplement.
La science ignore par défaut des tas de choses, justement par manque de connaissance. Et ça n’a rien d’inquiétant, c’est juste normal.
Les lois de la physique, de la biologie, et ainsi de suite, ont beau exister, ça ne nous est pas donné dans une belle notice rédigée dans notre langue.

C’est justement parce que la science sait qu’elle n’a pas connaissance de quelque chose qu’elle existe. Dans le but d’obtenir la compréhension de quelque chose.
Des fois ça prend quelques années, des fois ça en prendra des centaines ou des milliers.

Une phrase que j’aime beaucoup : « on mesure l’intelligence d’un humain à la quantité d’incertitude avec laquelle il peut vivre ».

2 « J'aime »

Moi je dis que si, il suffit d’ajouter la sensation de toucher par exemple et l’android aura conscience qu’il existe quand il se touche, c’est plutôt l’âme qui est difficile à reproduire.

Je pense que la conscience de sa propre existence est un bon moyen de définir ce que peut être la vie, mais comment savoir si cette conscience est réelle ou simulée ?

Oui, cela s’appelle le test de Turing (d’Alan Turing, le « fondateur » de « l’informatique moderne »).