Prabhakar Raghavan, le monsieur moteur de recherche, Assistant, Ads et Payments de Google, alerte sur les chatbots et leurs résultats « hallucinants ».
Le souci pour qu’un ChatBot soit « bien vendu », c’est qu’il fournisse des réponses.
Mais même quand il n’y a pas de réponse, il est alors obligé d’en fournir une probable.
Ce qui fait que, fréquemment, les réponses sont totalement fausses (contexte, etc).
Et donc l’information délivrée est fausse, qui peut gêner les personnes intellectuellement honnêtes comme ce monsieur de chez Google… et ça peut tout à fait se comprendre.
Comme pour les enfants… Il faut absolument apprendre à l’IA à dire :" Je ne sais pas " plutôt que de raconter des conneries. Faut il encore que les orgueilleux de la Silicon Valley puissent entrevoir ce genre de possibilité.
2 « J'aime »
Forcement ça menace le fond de business actuel de Google
Ils vont pas dire que c’est génial ^^
1 « J'aime »
Tu as lu l’article ?
Google n’est pas forcément moins avancé que OpenAI , mais ils attendaient d’avoir un outil efficace avant de le proposer au plus grand nombre, contrairement à OpenAI qui avait besoin de nouveau financeur pour poursuivre son activité.
ChatGPT,
Est-ce que parfois tu réponds « je ne sais pas » à certaines questions ?
Réponse :
Oui, je peux parfois répondre « je ne sais pas » à certaines questions, surtout si elles sont très spécifiques ou s’il n’y a pas assez d’informations dans mes données d’entraînement pour y répondre de manière précise et fiable. Je suis un modèle de langage développé par OpenAI et j’ai été formé à partir de vastes quantités de textes en ligne, mais il est toujours possible que je ne sois pas en mesure de répondre à certaines questions.
D’un point de vu purement éthique, Google a raison d’attendre, d’autant plus quand on voit le genre d’absurdité que ChatGPT est capable de pondre. Mais à mon avis cette raison n’explique pas à elle seule leur retard, surtout quand on concidère le chamboulement qu’un agent conversationnel dédié à la recherche, pourtant issu de leurs propres technologies, provoquera sur leur modèle économique.
Si Microsoft, dont la publicité ne représente pas un secteur aussi stragétique, peut se permettre une telle agilité, Google devrait malgré tout sortir de sa zone de confort et s’en inspirer parce que l’IA semble faire émerger de nouvelles habitudes de consommation et qu’il serait dommage pour eux (et rageant ?) de ne pas surfer sur une vague qu’ils ont eux-même contribué à ériger.
2 « J'aime »
Oui et en attendant Google est nul part pour le moment sur le sujet
C’est pas pour rien que les fondateurs sont revenus en catastrophe début janvier et ont réorganisé les services IA en interne…
On verra bien ce que vaut leur solution
ChatGPT est l’architype d’un politicien: il est très convainquant quand il raconte des conneries et des mensonges.
Pour les avoir testés, j’ai une bien meilleure impression de perplexity.ai que de chatgpt. Perplexity essaie de donner une réponse en résumant des sources dont il donne les références. On peut directement juger de la pertinence des sources et si le résumé est un peu bizarre (ce qui peut arriver), on peut directement aller à la source. Cela me parait beaucoup plus pertinent pour un search engine.
Il m’a aussi donné des réponses correctes sur des questions sur lesquelles ChatGPT racontait clairement des conneries.
2 « J'aime »
Je n’arrive toujours pas à comprendre comment un GAFAM comme Google peut être aussi à la traîne dans le milieu alors qu’ils ont de l’expérience avec Google Assistant qui avait fait une petite révolution à l’époque.
Ils se font fait couper l’herbe sous le pied par une entreprise modeste à but non lucratif. Cela montre que Google s’est pas mal reposé sur ses acquis en tant que leader du moteur de recherche.
Et maintenant que certains annoncent que les moteurs de recherche vont disparaitre, ils mettent les bouchées doubles pour se réinventer, c’est quand même bizarre non ? Il suffit parfois de mettre un coup de pied dans la fourmilière pour que les choses bougent enfin.
Bof ! A chaque fois chatGPT me répond qu’il ne sait pas où ne veut pas répondre. Et si il le fait c’est pour écrire des âneries .
Par contre il est fort pour écrire une entête de code