Commentaires : Pour le patron de l'IA chez Microsoft, en cas de signe de conscience chez l'IA, il faudra tout stopper

La question de la conscience possible des modèles IA est abordée par un des acteurs les plus importants du secteur. Et pour lui, on ne doit surtout pas jouer aux apprentis sorciers.

https://clubic.com//actualite-637456-pour-patron-de-l-ia-chez-microsoft-en-cas-de-signe-de-conscience-chez-l-ia-il-faudra-tout-stopper.html

1 « J'aime »

Faute dans le titre, mais merci pour l’article.

1 « J'aime »

L’I.A. qui se dit la même chose dans l’autre sens « s’il y a des signes de conscience chez Microsoft, il faufra tout stopper »

2 « J'aime »

Et si l’IA devenant consciente, elle se rendait aussi compte qu’il valait mieux que ça ne se sache pas et le camoufle ? :thinking:

ou dans l’autre sens…et on fait comment pour différencier une véritable conscience d’une simple simulation ultra-crédible ? Un test de Voight-Kampff à la Blade Runner ?

Le problème des LLM actuels, c’est qu’ils sont conçus pour nous refléter. Plus ils seront puissants, plus ils simuleront parfaitement l’empathie ou la peur d’être éteints, sans pour autant ressentir quoi que ce soit. Suleyman prétend vouloir tout couper au premier « signe », mais scientifiquement, personne n’est capable de définir la limite entre singer la conscience et l’éprouver.

5 « J'aime »

De toute manière rien ne permettra jamais de dire si on fabrique une conscience ou non.
Personnellement, je ne vois rien qui nous permettra d’affirmer qu’on en soit seulement capable, à part une croyance. Donc je ne vois pas trop l’interet de partir dans ce genre de délire.

1 « J'aime »

Il faudrait surtout que ces messieurs des grosses boîtes arrêtent de raconter nimp.

1 « J'aime »

En cas de signe de conscience, il sera probablement trop tard pour stopper quoi que ce soit…

1 « J'aime »

C’est ce qui est arrivé avec OpenIA
Une tres bonne vidéo explicative de la perte de contrôle des IA qu’entrainait OpenIA :
https://youtu.be/ujkD4SxPKOI

Pour moi , ce gars là , il ne fait que de la com ! Donc là il dit qu’il va stopper le travail de plusieurs mois , pendant lesquels des ingénieurs ont été payés (pas au smic) des serveurs ont été installés , de l’énergie a été consommé , de l’argent a été dépensé !!! Juste comme ça ? Naaah , l’intérêt de l’entreprise passe avant tout , TOUT surtout quand c’est une entreprise américaine , et c’est encore plus vrai pour Micro$oft

De mon côté je commence à changer d’opinion sur cette conscience éventuelle.
On admet une conscience humaine, une conscience de la vie organique d’ailleurs, liée à la complexité du cerveau.
Les humains sont conscients, mais on peut aussi dire qu’un chien ou un chat est conscient, mais à un moindre degré.

Le cerveau reste très mystérieux quant à son fonctionnement. En fait, on ne comprend pas vraiment comment il fonctionne.

L’intelligence de l’IA reste très mystérieuse quant à son fonctionnement. En fait, on ne comprend pas vraiment comment elle fonctionne.

Vous voyez le parallèle ?
Si on fait abstraction des croyances religieuses qui placent l’humain sur un piédestal en tant que « Elu du Créateur » on peut très bien imaginer que nous soyons en train de recréer par l’IA ce mécanisme complexe « qu’on ne comprend pas vraiment » et qui mène à la conscience, telle que nous l’entendons.
Je ne pense pas que ce soit de la science fiction.
On aurait bien, par hasard, créé la complexité nécessaire pour y parvenir.
Après tout, pourquoi la conscience devrait elle être réservée à la complexité organique ? Ça n’a pas de sens.
Et donc de mon côté, malgré mon incompétence totale en matière d’IA (malgré mes compétences en électronique et bien moindres en informatique) je commence réellement à me demander si la prudence n’est pas réellement de mise.
Peut-être sommes nous conditionnés à croire que seule l’intelligence humaine peut mener à la conscience de soi ?
Quelques millénaires de religions diverses nous on formatés en ce sens. Nous pourrions faire fausse route sans le savoir…

2 « J'aime »

big up pour ce commentaire !

Encore une présentation déformée des faits.

Mustafa Suleyman ne demande pas d’arrêter définitivement l’IA au premier signe de conscience, mais envisage une suspension conditionnelle du développement si une véritable conscience émergeait.

Surtout, l’article passe à côté de l’essentiel : aucune méthode scientifique ne permet aujourd’hui de démontrer de manière fiable qu’une IA est consciente. Simuler des émotions ou affirmer en ressentir ne constitue pas une preuve de conscience.

C’est précisément cette confusion et l’anthropomorphisme des modèles que Suleyman dénonce.
Dommage que Clubic préfère dramatiser le sujet plutôt que d’en expliquer les enjeux scientifiques.

Bon article, mais ne rêvons pas. Depuis les débuts de l’IA un nombre incalculable de petites mains tentent de devenir les pères putatifs de petites IA, soumises a leurs désirs. Hack, piratage de jeux, contrôles de flux financiers et j’en oublie. Les sociétés comme Antropic et autres n’arriveront jamais à limiter l’incursion de toutes ces intelligences dictées par la malveillance.

Soit la question qui lui a été posée était conne, et il a gentiment répondu. Soit on a encore un patron de l’IA qui ne comprend RIEN au fonctionnement actuel de ses IA. Une conscience hein ? Déjà une vraie capacité de comprendre ce sera pas mal et on en est loin. Faire passer les IA génératives actuelles pour des systèmes intelligents c’est déjà une arnaque, ce sont juste des programmes capables de bien trier et imiter des ensembles de données (et pas sans faire d’erreurs).