La prochaine fois, vous lui parlerez en chinois ! Votre chatbot IA préféré propose-t-il des réponses différentes selon la langue ? Selon des chercheurs chinois, les demandes en mandarin offiraient plus d’ouverture d’esprit aux LLMs.
1 « J'aime »
Cela fait des années que j’étudie le chinois … et j’ai toujours l’impression d’être un éternel débutant, exactement comme quand j’essaie de piger la mécanique profonde des tokens en IA ! 
Mais cet article m’amène à une réflexion : le chinois est une langue très holistique où chaque caractère est un concept complet, un idéogramme autonome, contrairement à notre écriture occidentale qui est plutôt analytique et phonétique.
Or, quand on y regarde de près, les tokens des LLM fonctionnent de façon très similaire. L’algorithme ne lit pas lettre par lettre : il découpe le texte en blocs de sens (mots, racines, morphèmes) auxquels il attribue un identifiant unique. En quelque sorte, l’IA a réinventé une forme de langage idéographique moderne pour être plus efficace dans le traitement de l’information.
Je me demande si cette densité d’information par symbole et cette logique de blocs conceptuels ne jouent pas un rôle clé dans la façon dont les modèles « pensent » et adaptent leur comportement, notamment en privilégiant le chinois 
Je ne sais pas si tu l’as déjà lu, mais il y a cet article de Clubic sur les tokens :
1 « J'aime »