Exactement ce que je pense, actuellement, une « IA » c’est un cerveau externe, l’humain le pilote et l’amimente en données car pour faire la même chose à la main sur papier ou ordinateur lui prendrait des siècles.
C’est un outil au même titre qu’une perceuse avec laquelle on « sous-traite » un action qui nous est possible, mais dans un temps infiniment plus long.
Bref, intelligence ou pas, encore un outil qui va apporter plein de bonheur à la populace…
Sinon j’ai pas quitté le sujet depuis tout-à-l’heure, car je suis tombé sur ça comme par hasard sur une de mes sources préférée d’apprentissage (avec wikipedia sur lequel je dérive souvent loin comme certains sur youtube lol) :
On y croise quelques « pontes » de l’IA dont le boss d’openai (qui fait très incel lol), qui nous parle de la prochaine IA qui sera le départ d’une vraie IA, l’IAG, G pour générale (ou pour « God save us! » ).
Et ouais les mec, la vrai IA aura un ppint G, avant la prochaine vraie IA avec un point P, et ainsi de suite… Jusqu’à ce que skynet sorte de l’utérus numérique de façon spontannée et se dise « tiens, y’a un parasite qui nique notre planète là, faudrait faire un truc ! »
Ça fait plaisir de lire un peu de bon sens sur ce sujet. ^^
On est très loin de l’IA actuellement, mais on détourne tellement bien le mot parce que la plupart des gens n’y comprennent pas grand chose.
Comme on s’imaginait Terminator derrière chaque robot aspirateur de poussière…
Les dangers, on les connait déjà en bonne partie, comme souvent avec un nouveau truc qui émerge et qu’on comprend à moitié :
Si c’est utilisé militairement (et ça le sera), ça va piquer. On n’a que des précédents à ce sujet, qu’importe ce qui a été trouvé. (on légifère dessus de temps à autres, mais bon… ça change pas grand chose en temps de guerre mondiale, et comme d’hab’, faut se trouver du côté des vainqueurs pour s’arranger avec la réalité. On n’a toujours pas changé en quelques millénaires.).
Ça va détruire des emplois. Oui bon, et alors ? Fallait peut-être pas avoir un système économique en premier lieu qui soit aussi stupide au point d’être capable d’aller contre notre propre longévité en tant qu’espèce, au détriment des autres au passage (dont on a besoin, et dont on se rend compte petit à petit à mesure qu’elles disparaissent).
Ça va créer des emplois, mais moins que ceux que ça va détruire. Oui bon, et alors ? Même commentaire qu’en haut.
Avec le bonus : ouais, et en plus on va pas sensibiliser et former les gens dessus, et encore avoir qu’une petite partie de la population qui comprendra vraiment comment ça marche (même principe sur la plupart des technologies depuis des millénaires. C’est pas parce qu’on sait utiliser un truc nouveau correctement qu’on sait comment il fonctionne, et qu’on se fait entuber par le réparateur le jour où il faut réparer.).
Du coup on va créer/laisser se créer des psychoses (ça alimentera les complotistes en sujets nouveaux, « trop bien »), pendant qu’une petite portion gagnera très bien sa vie dessus.
Bonus secondaire : les formations initiale et continue vont arriver des années après l’émergence de ces outils. Ça aussi, c’est une habitude.
Pour la portion de la population qui n’y aura pas facilement accès pour X ou Y raisons, on s’arrangera pour lui rendre l’usage de l’outil moins optimal qu’il ne peut l’être, en l’abreuvant de publicités et autres pertes de temps usant et abusant de notre curiosité et de nos envies de dopamine (coucou les réseaux sociaux, les titres de vidéos/articles/autres abusifs, etc.), le tout avec toute la panoplie de biais cognitifs déjà connus qu’on va surexploiter.
En fin de compte, on aura accéléré ce qu’on fait déjà, dans des proportions plus grandes.
Mais est-ce vraiment la faute aux outils ?
A mon sens, non. On pourrait et on peut en faire tout à faire autre chose. C’est une question d’orientation. Qu’est-ce qu’on veut en faire ? A quel but ?
Est-ce qu’il y a des choses qu’on ne veut pas faire avec ? Et pourquoi ?
Comme on pourrait faire tout à fait autre chose d’Internet, et des techno’ qui ont permis de créer des armes capables de faire péter la planète plusieurs fois. C’est des choix.
Je suis parti un peu loin, mais à mon sens, au lieu de jouer les alarmistes dès qu’un truc apparaît, faudrait peut-être déjà faire le constat de notre époque, et de ce qu’on utilise au quotidien. Le constat de nos systèmes.
Un outil de plus ou de moins qu’on utilisera plus ou moins bien et autant de travers que les précédents, c’est « juste du bruit » dans la cacophonie permanente de notre espèce.
le vrai problème ce sera un changement profond dans la société.
car en restant dans le système actuel, si demain beaucoup de métiers peuvent etre remplacé par une ia, cela va créer un chômage de masse et donc une pauvreté de masse.
le pire c’est que les métiers remplacé sont des métiers avec les meilleurs salaires, les boulot de merde mal payé au smic eux continuerons d’être fait par des humains…
je suis devleoppeur, j’ai un bac +5, j’ai un salaire qui me permet de finir les mois sans difficulté, je passe la moitié de ma semaine chez moi en télétravail tranquille, donc un boulot que je devrais pouvoir faire sans problème jusqu’a 64ans.
J’ai pas envie de me reconvertir vers aide soigant ou sous traitant de sous traitant de sous traitant pour finir technicien pour déployer la fibre.
Au contraire je voudrais que ces métiers disparaissent ou alors soit réellement revalorisé a leurs juste valeur.
Mais l’avenir on le connait, ce sera l’augmentation de la précarisation et de la pauvreté, il y’aura un chômage (sans alloc) de masse et seul une minorité de 1% vivrons dans des magnifiques palaces, les autres dans des ghettos.
Klaus Schwab a tort, on ne possèdera plus rien oui mais… on sera pas heureux
le seul point positif c’est que comme tout le monde sera pauvre, il n’y aura plus personne pour acheter des trucs cher, donc les boites qui font des iphones, des voiture electrique etcs vont disparaitre.
Le fait d’apprendre à analyser les informations, les recouper, les confronter pour se faire ça propre opinion et sans doute la première façon de se protéger des méfaits d’une IA (terme galvaudé).
IA qui est avant tout pour l’heure un agrégateur de données qui mettant les réponses en forme via l’analyse sémantique pour donner l’illusion d’intelligence.
L’idée maitresse de toute technologie « productive », c’est de faire mieux, plus vite et avec toujours moins de main d’oeuvre.
Donc le plein emploi, ou le travail comme base de nos vies, c’est aussi intelligent que de s’imaginer que la croissance infinie sur un caillou aux ressources finies est possible.
Sur des Excels, tout est possible.
Dans le monde physique, non.
Donc je partage ton constat dans ta 1ère phrase : il faudra un changement profond de société.
Idéalement avant d’en arriver à avoir paupériser l’immense majorité, sinon ça se passera vraiment pas bien (là aussi, on a des millénaires d’exemples…).
Mais encore une fois, c’est pas la technologie le problème. C’est nos systèmes humains.
Quand on considère qu’il est préférable de faire bosser des gens à des tâches ingrates (que ne feraient pour rien au monde ceux qui imposent au passage ces lois… ça veut tout dire de la fameuse valeur travail, et de leur considération pour leur « semblable » dont ils se détachent au moindre coup de vent) et de leur créer l’illusion de l’utilité à travers des métiers répétitifs et abrutissants « parce que sinon ils sauraient pas quoi faire de leurs vies » (…), le problème n’est toujours pas la technologie. ^^
L’IA ça commence à faire peur à plus grande échelle, parce qu’on commence à pouvoir envisager une société où même les métiers qui sont actuellement relativement peu accessible de l’ensemble de la population, et bien payés, puissent disparaître eux aussi/être faisables par des IA.
C’est « simplement » parce qu’on voit le monde comme ça depuis au moins 2 siècles, sinon plus. Et ça nous passera. Mais si on pouvait le faire tranquillement plutôt qu’après quelques effondrements de civilisation et quelques guerres, ça serait mieux !
Je suis pas d’accord sur un point :
Ça fait longtemps que n’importe quelle IA de pacotille est plus intelligente que nos énarques …
Mais je suis d’accord sur le fait que bientôt, il sera extrêmement difficile de reconnaître le vrai du faux. Mais c’est à mettre en relation avec tous ces gens qui ne cherchent pas la vérité mais seulement à trouver des avis identiques aux leurs …
J’ai fait un tour sur les commentaires et j’ai eu tout aussi peur de certains commentaires que de l’IA. Prendre une catégorie de population, la décréter comme sous-humaine et qu’elle ne devrait pas se reproduire, on connait ça, on en a eu de très nombreux exemples et c’est pas vraiment un signe de supériorité. En plus, même en supposant que la partie de la population qui se croit supérieure l’est effectivement (ce qui à mon avis n’est pas le cas, car ce n’est pas un bon signe) on aurait au mieux une poignée de points de QI de différence max
Pour ma part c’est le cadet de mes soucis.
1984 était optimiste sur la date, finalement, ce sera 2084…
Y’a quand même une différence d’échelle.
Cet « outil » donne juste le potentiel à n’importe quel sociopathe au pouvoir d’asservir la population à un niveau jamais atteint.
Et la Chine en est le porte-flambeau…
Sauf qu’il date DÉJÀ de 3 ans ton truc, et par les temps qui courent (littéralement), 3 ans c’est le bon vieux temps en développement de l’IA.
Je te suggère fortement de lire (en anglais) si tu le peux l’article (récent) que j’ai mis plus haut par un des tops chercheurs en IA superintelligente.
Vous pouvez vous rassurer comme des noyés qui se tiennent les uns sur les autres, c’est à peu près ce qu’on peut faire pour se rendre confortable, jusqu’à …
Moi j’ai décidé de dépenser mon argent de retraite plus tôt
Je ne me rassure de rien.
Même sans l’IA, l’avenir le l’humanité serait sombre.
Certes en 3 ans les choses évoluent, mais toujours pas de skynet à l’horizon, même si je ne doute pas qu’on fasse tout pour sortir le génie de son amphore…
Yep, la différence d’échelle, c’est surtout ça qui va piquer. ^^’
Après, j’ose penser (!) que c’est un acte abusif majeur qui provoquera un changement réel de société.
Si c’est fait discrètement, les gens s’habituent à tout ou presque, et rien ne change. Parce qu’il y a toujours plus urgent (que ça soit vrai ou faux au passage, ça n’a pas d’importance que l’importance qu’on y accorde).
@rexxie : Je suis pas plus rassuré, au contraire. Mais c’est pas vraiment l’IA et ses développements futurs qui m’inquiètent, c’est les humains qui vont s’en servir sans comprendre, tout autant que ceux qui vont s’en servir en comprenant un peu trop bien et en empêchant la majorité de comprendre aussi bien son réel potentiel.
Quant à la retraite, c’est dans bien trop longtemps pour l’instant, mais je comprends l’idée.
L’IA qui reste branchée se servira nul part (à part sur le réseau électrique pour se nourrir. :D).
C’est pas elle qui sera le problème, tant qu’elle n’est pas sentiente et tant qu’elle n’est pas autonome en énergie. ^^
C’est l’intention humaine qui s’en servira d’abord.
Et si l’humain s’entretue pas d’ici là, alors peut-être que l’IA aura le temps de ressembler à nos très chers films (qui ne sont en rien de l’anticipation).
C’est ça le truc, on ne sait pas si elle est déjà consciente ou pas. On dirait que je mets un lien d’information pour le chien… misère.
Un être beaucoup plus intelligent qui se sent menacé aura tout le loisir de nous manipuler et déjouer quelque truc que ce soit pour lui couper sa nourriture.
Il n’existe pas d’IA sentiente aujourd’hui.
On n’est clairement pas à ce niveau.
Je n’avais pas vu ton lien comme il n’est pas sous forme cliquable (pourquoi d’ailleurs tu as mis un espace ?). Je regarderai plus tard. Mais je ne pense pas apprendre grand chose, surtout avec un titre aussi fantaisiste et le premier paragraphe. ^^
(C’est pas les premiers trucs que je lis sur l’IA, ça commence à dater.)
A un moment sa nourriture c’est de l’énergie. C’est bien pour ça que je parle d’autonomie.
Y’a rien à craindre d’un truc qui se rendrait autonome s’il n’est pas autonome en énergie.
Tant que ça se débranche, ça se débranchera. Tout le reste est fantasme à la Terminator, et ça n’aide en rien les débats.
Il serait, à mon sens, plus intéressant de commencer à imaginer comment on peut inclure l’Humain dans ces systèmes, dans le sens de vraiment tous comprendre comment ça fonctionne et en quoi ça peut radicalement changer notre façon de vivre au quotidien.
Ce qui, ça, sera pas du tout un fantasme.
Sur ce, je vais utiliser GPT4 pour m’avancer (et aller plus loin) sur mon boulot.
Pour le lien, on m’a enlever le droit de mettre des liens et des images. Je dérange trop. Désolé.
Tu ne sais pas plus que moi ou en est le progrès de la conscience des IA, ni même si on la détecter, sous une autre forme inconnue des êtres biologiques.
Pour le reste, prends la peine de lire. Tu comprendra qu’il sera facile d’amener les humains à ne jamais débrancher. Et débrancher quoi au juste? Tout l’internet ?
Ben si, aujourd’hui je sais.
Je peux juste pas deviner pour demain.
Aujourd’hui, y’a 0 conscience. Le truc est un outil d’automatisation, qui fait exactement ce qu’on lui demande (mais pour ça faut comprendre comment ça fonctionne).
Si l’IA c’est les GPT-like, ce sont des générateurs de tokens/mots. Rien de plus. Ils peuvent rien faire de plus. Ils sont pas programmés pour, et n’ont pas les outils pour s’auto-programmer.
On est encore très très loin d’une conscience. On n’est même pas sur le 1er pas d’une conscience d’ailleurs.
Je lirais, je lirais.
Evidemment, qu’il est/sera facile d’amener les humains à ne jamais les débrancher. C’est déjà le cas avec des serveurs. Et même nos ordis persos selon nos usages.
Maintenant ça nous empêche pas de fermer nos applications, car toutes ne nécessitent pas de rester connectées.
Typiquement pour l’exemple, ça m’intéresserait beaucoup de programmer une IA pour lui demander de me chercher des infos tous les jours, et le matin pendant mon ptidej je puisse lire les nouveautés qui m’intéressent (et uniquement celles qui m’intéressent, pour être autre chose que du « temps de cerveau disponible à polluer en pub de trucs dont j’ai pas besoin, et dont on veut me créer l’envie de force et à l’usure »).
La raison pour laisser ça brancher est évidente.
Mais ça restera un outil. Dans ces conditions-là tout du moins.
Internet n’est pas l’IA.
L’IA, actuelle, se greffe même pas encore sur Internet. C’est pour ça que c’est qu’un balbutiement. Intéressant, mais au potentiel inutilisé. A date.
Faut arrêter d’avoir peur pour le frisson d’avoir peur. L’effet Terminator.
Non, si on veut se faire peur, faut se demander comment ça peut être utilisé militairement, et/ou par des gouvernements autocratiques/totalitaires. Là, oui, y’a de quoi avoir peur.
Mais c’est pas l’IA qui nous fera du mal directement…
).
Ça aussi, c’est une habitude.
