Les dirigeants d’OpenAI viennent de publier une note dans laquelle ils appellent à la création de régulations internationales pour l’intelligence artificielle.
Coup de pub grossier au passage… « mon produit est trop puissant, il faut le limiter et en limiter son usage ».
Par contre pour mettre sur Off, personne bien sûr 
Il aurait peut-être pu y penser avant de lancer leurs IA génératives. Quand au stop, je n’y crois pas une seconde, parce qu’il y aura toujours un labo ou un état genre au hasard la Corée du Nord qui bossera dans son coin, et lorsque la pause sera levée et bien ceux qui auront continué auront pris une avance considérable, donc la pause ou le stop est impossible. C’est un peu le même problème que pour les armes autonomes, certains demandent un moratoire, mais qui imagine sérieusement que tout le monde jouera le jeu?
J’adore tout ce côté science fiction autour de l’IA mais sommes nous dans Terminator ou iRobot, est-ce que les 3 lois formulées en 1942 vont devenir réalité hum j’ai hâte de lires les prochaines news à sensation sur le sujet.
Un grand merci au cinéma pour avoir permis d’ancrer toutes ces petites choses de l’imaginaire pour mieux associer l’IA d’aujourd’hui à la science-fiction d’hier
Un gros coup d’épée dans l’eau
L’idée et de mettre la responsabilité des limites à un autre. Si ça dérape, ils pourront dire, voyez, j’ai fait ce une vous aviez demandé
1 « J'aime »
La grosse différence entre les films et la vraie vie, c’est que dans les films, les IA prennent le pouvoir, dans la vraie vie, c’est n’importe qui qui fait n’importe quoi avec facilité (et souvent le pire)…
Comme souvent le problème n’est pas l’outil mais celui qui le tient.
Pas que.
Comme c’est le plus exposé, il a tout intérêt à montrer qu’il est « gentil ».
Du point de vue business, il a aussi intérêt à avoir le plus tôt possible une législation stable et précise pour orienter son business car de toute façon, il y aura de la régulation.
1 « J'aime »
Ah oui tout à fait, pour l’utilisation qu’on en fait c’est un autre pb, les mauvais usages et dérivent existent déjà pour bien d’autres technologies, pour autant on ne les interdits pas (heureusement d’ailleurs…)
Mon commentaire avait plus pour vocation à démontrer la diabolisation de cette technologie ainsi que le mélange flagrant avec la science fiction d’avant.
1 « J'aime »
Les autres technologies n’imitent pas la pensée d’un humain.
L’IA n’est pas OpenAI, l’IA n’imite pas la pensée humaine, c’est justement l’amalgame que je dénonce.
Ce qu’on appel réellement une IA d’un point de vue technique c’est un programme qu’on entraine à une tâche par exemple la reconnaissance de visage ou d’objet, par exemple c’est un outil particulièrement utile pour le bon fonctionnement d’une voiture autonome, il y a des dizaines d’IA dans ce genre de voiture, une pour reconnaitre les panneaux, une pour reconnaitre la chaussée, une pour reconnaître les lignes sur la chaussée, une pour reconnaitre un humain, une autre pour les animaux bref et j’en passe. Dans ce cas il n’y a pas d’intelligence au sens « pensée humaine » et pourtant c’est bel et bien de l’intelligence artificiel. Un autre exemple au moins autant voir encore plus utile : on entraine des IA a lire des IRM et autres résultats médicaux pour par exemple détecter le cancer, même si pour moi ça n’enlève pas l’analyse humaine ça permet d’apporter plus de performance, le médecin gagne du temps voir on s’évite de passer à côté d’erreurs potentielles.
Des inondations et inventions dans ce genre il y en a des centaines et depuis bien avant OpenAI et qui ont une réelle utilité pas juste pour permettre aux étudiants de pouvoir rédiger du texte, malheureusement les articles font juste du buzz autour de tout ça en faisant croire que c’est une technologie nouvelle et en faisant systématiquement des amalgames de films de science fiction.
Merci pour ces détails, mais j’ai bien dis « imiter. »
Faire croire, etc… les dangers sont ici, car 99.8% des gens sur Terre s’en contre-foutent de tel ou tel système technique mise en place. (je rappel, Apollo Guidance Computer : 1Mhz pour aller sur la Lune - Smartphone Lambda 2Ghz Pour regarder du p_rno et faire du TikTok.
Pour « eux », l’expérience faite est une réalité.
Si ça imite, c’est « pareil » ou presque.
Ça rejoint le commentaire précédent sur l’usage de la technologie, et pour le coup peu importe la technologie, on peut en détourner l’usage pour quelque chose qui ne soit pas correcte comme la news qui parle de génération d’image pedopornographique à l’aide des IA, c’est franchement dégueulasse mais qu’est-ce que tu veux… empêcher ce genre d’usage me paraît impossible, le condamner ça me paraît évident.
Des exemples dans le même genre il y en a plein, la maladie de notre monde par exemple la manipulation du grand publique au travers de l’information, on le voit avec Facebook/Cambridge, on pleure sur l’IA hors elle ne fait qu’interpréter/analyser des données, par contre c’est plus le big data qui serait à attaquer collecter encore et toujours plus de données sur tout et tout le monde, générer des profils pour des ciblages publicitaires ou pour pousser l’opinion publique à être pour ou contre tel ou tel sujet là il y aurait des sujets à aborder