Un outil de transcription destiné au personnel soignant et alimenté par l’intelligence artificielle Whisper d’OpenAI fait un carton aux États-Unis. Problème, il a tendance à halluciner, allant jusqu’à inventer des propos jamais tenus par les patients…
On est quand même clairement dans un problème d’usage… après on imagine que Nabla a probablement survendu les possibilités de son IA…
En France la transcription s’effectue souvent en fin de consultations devant le patient, le médecin dicte son compte rendu sous l’attention de son patient et voit en temps réel le texte s’écrire pour le corriger au besoin…
C’est peu de cas sur l’ensemble, mais ça pourrait quand même mal tourner pour un patient si un praticien, chirurgien ou anesthésiste, se fie trop à l’IA.
Et les erreurs, ça arrive. Anecdote : je devais me faire opérer dans les années 90 et j’avais vu un anesthésiste comme c’est la procédure.
Lui : Vous avez une morphologie bizarre, pour un homme.
Moi (qui lisait le dossier à l’envers en même temps, j’ai toujours su faire ça) : Dites, docteur…Simone P., ce n’est pas moi.
C’était une membre de ma famille qui allait se faire opérer au même moment et il se trompait de dossier.
Oh que non, pas si souvent que ça, comme quand tu vas faire des radios et que tu les reçois par courrier avec un compte-rendu … le patient concerné n’est pas présent.
Si vous êtes en France justement, cet article vous concerne bien. Nabla est une start-up crée par des français. Leur solution commence à être intégrée dans des logiciels médicaux en France, logiciels qui équipent un grand nombre de médecins (comme Weda). Doctolib vient aussi de sortir sa propre solution de « résumé » du dialogue de consultation. Loquii en est une autre, etc.
Un copain tétraplégique avait été hospitalisé suite à une chute de fauteuil.
Après avoir regardé les images, le médecin a ramé pour essayer de lui expliquer gentillement qu’il risquait de ne plus marcher. Il n’avait visiblement regardé que les images, sans lire le dossier
Et le copain l’a laissé ramer jusqu’au bout et lui a répondu qu’il ne s’attendait de toute façon pas à ce que la chute ait réparé quoi que ce soit
Merci pour cette précision, l’article ne le mentionnait pas…
J’ai été sur leur site du coup et il y a un témoignage qui souligne une mauvaise utilisation de l’outil…