Commentaires : Claude trahit ses créateurs en plein tribunal avec des faits inventés

L’intelligence artificielle Claude a récemment provoqué un impair majeur en fournissant une citation erronée dans un document légal destiné à défendre l’entreprise elle-même. Cette bévue souligne de manière crue les défis persistants liés aux hallucinations des modèles d’IA, même au sein des firmes à la pointe de cette technologie.

C’est cocasse :stuck_out_tongue:
Je crois qu’il existe des IA spécialisées en droit disponibles sur abonnement et peut-être plus fiables

Pensez-vous réellement une seule seconde qu’Anthropic créateur de claude.ai ai pu utiliser la version gratuite de sa propre IA plutôt que la version payante qui serait « peut-être plus fiable » pour assurer sa propre défense dans un procès ou elle risque gros ?

1 « J'aime »

Claude reste généraliste, même en version payante, j’ai bien parlé d’IA spécialisées et qui ne font que ça

De toute façon, un cabinet d’avocats qui doit facturer un tarif hors de prix qui utilise une IA pour préparer son procès, c’est à la limite de la faute professionnelle sans vérifier scrupuleusement absolument toutes les références et citations.

1 « J'aime »

Les paroles s’envolent, les écrits restent … sauf si c’est une IA qui tient la plume apparemment :lying_face:.

1 « J'aime »

Finalement les comportement humain ne changent pas beaucoup on a certainement affaire aux mêmes cabinets qui faisaient exactement la même chose avec les stagiaires à part qu’il est beaucoup plus difficile de mettre tout sur le dos de l’IA et de la virer avec pertes et fracas pour camoufler son incompétence ou sa flemme :face_with_raised_eyebrow:

1 « J'aime »

Alors que la solution serait de faire vérifier par des stagiaires les dires de l’IA pour économiser et garder la possibilité de rejeter la faute sur eux :sweat_smile:

(je vais penser à ouvrir un cabinet de conseils moi :upside_down_face:)

3 « J'aime »