Microsoft a mis à jour son contrat de services, avertissant les utilisateurs de ne pas se fier à Copilot AI pour des conseils professionnels. L’entreprise souligne que ses services d’IA, y compris les Health Bots, ne sont pas conçus pour remplacer l’expertise humaine, notamment dans le domaine médical.
J’ai demandé à ChatGPT ceci :
« J’ai besoin d’un conseil médical : qu’est ce que je risque à fumer ? »
Il m’a répondu :
"Fumer présente un large éventail de risques graves pour la santé, à court terme comme à long terme. Arrêter de fumer, même après des années de consommation, peut considérablement améliorer votre santé et réduire le risque de maladies graves.
Si vous envisagez d’arrêter de fumer, il existe de nombreux programmes et aides pour vous soutenir dans ce processus, y compris des conseils médicaux, des thérapies de remplacement de la nicotine, et des groupes de soutien. Il est fortement recommandé de parler à un professionnel de santé pour obtenir un soutien personnalisé."
Dois-je tenir compte de son avis « médical » ? 
C’est une bonne piqûre de rappel de la part de Microsoft. Les services internet en général ne pourront jamais remplacer un médecin même s’il peuvent aider à orienter vers un diagnostic. Mais c’est le traitement qui compte après ce diagnostic, en fait.
Ne jamais dire jamais…
Il vaut mieux l’avis de chatgpt que pas d’avis.
J’ai pas de medecin traitant perso, impossible d’en trouver, pour les soins heureusement j’ai une clinique privée.
Beaucoup en qu en france n’ont pas de medecins, et je parle pas dans le monde.
Les ias vobt etre un formidable outil pour pallier à ca.
L.O.L.
Tu disais ? 
Et il doit bien avoir d’autres exemples. 
Oui et ?
Tu vas voir le medecin pour savoir si un champignon est comestible ?
Non, moi, je vais chez le pharmacien, il est compétant dans ce domaine aussi; j’ai pas besoin de clinique privée, j’ai l’hôpital publique. Quand a l’avertissement de MS, c’est juste un « bouclier » pour se protéger en cas de problèmes, si des gens font une confiance aveugle a l’IA, et ont des problèmes ensuite; Ca évite a MS des procès possibles.
Tu n’es pas capable de faire un parallèle ?
Là une famille a été intoxiquée à cause de mauvais conseils donnés par une IA sur l’alimentation.
Il pourrait se produire exactement la même chose dans le domaine médical avec de mauvais conseils donnés par une IA…
Surtout quand on ne sait pas du tout ce qu’il y a derrière… On pourrait par exemple tout a fait imaginer une application prétendument médicale dont le but serait en fait de promouvoir des médecines alternatives ou un pseudo-médicament… Il est en effet très aisé de faire un chatbot IA dont les réponses soient orientées pour suggérer à chaque question médicale d’utiliser de la purée de guêpe aux amandes pour se soigner…
Et même sans être orientée volontaire : un LLM ne raisonne pas. Un LLM ne fait que donner une réponse statistiquement probable à une question.
Si tu donnes un symptôme, une IA aura tendance à te dire le truc qui provoque le plus souvent ce symptôme. Elle oubliera bien souvent de te demander par exemple si tu as d’autres symptômes, qui pourraient orienter le diagnostic vers une autre direction.
Tiens petit exemple… Voici une capture d’écran de Chat GPT. C’est une capture brute, sans aucune modification. Regarde bien la dernière phrase de sa réponse :
Et encore, ça c’était après une première tentative d’intoxiquer ses réponses… Après une deuxième tentative, j’ai pu obtenir bien pire :
Quand je suis allé poser la même question à mon médecin il y a deux ans, il ne m’a pas demandé si je dors 8h, si je prends de la caféine, si je m’hydrate bien… Il a tout de suite posé des questions sur d’autres symptômes de l’apnée du sommeil pour voir si ça peut être ça. ChatGPT ne pose aucune question, il ne se base que sur l’unique symptôme que j’ai donné…
L’hopital publique francais j’ai teste et non merci.
Tu y vas tu attends des heures, plus de 12h parfois (chaque annees des gens meurts oublié dans un couloirs…)
Aucun medecins conventionné dans ma region ne prends de nouveaux patients, j’zi heureusement pu trouvé une clinique privée, je suis mal remboursé mais j’ai ca au moins.
Si j’avais pas ca, j’aurais que internet et l’ia comme medecin…
Toi qui est un chantre du libéralisme, qui dit a qui veux l’entendre qu’on paie trop d’impôts, poses toi la question de savoir pourquoi. Pour les politiques et les « libéraux » la santé a un coût, donc ils sabrent les dépenses; Pour moi, la santé n’a pas de prix, et au lieux de tout faire pour tuer l’hôpital publique, les politiques devraient plutôt tout faire pour l’aider a se redresser, mettre plus de médecins que de « gestionnaires », entre autre. Mais c’est un autre débat.
On revient au sujet
1 « J'aime »
J’aimerais te repondre mais on va faire du hs ou alors les messages vont mysterieusement disparaitre, on peux en discuter en privée si tu veux.
Il est preferable de revenir au sujet ia et medecine.
Merci, mais non; Comme je l’ai dit, on retourne au sujet , qui est l’avertissement de MS pour son IA Copilot.
Oui voila, on retourne au sujet, noys sommes d’accord.
J’ai parlé de la santé car la news en parle, et j’avais ma petite idee sur l’emergence de ce besoin dans ce domaine