Chose promise, chose due. Elon Musk a rendu publique l’intelligence artificielle générative Grok, conçue par sa jeune start-up xAI. Désormais, développeurs et chercheurs peuvent l’exploiter gratuitement dans leurs projets.
La modération et les garde-fous déployés au sein du modèle sont méconnus, faisant craindre de possibles utilisations malveillantes du système.
Ca en général, c’est dans le préprompt. Un rapide coup d’oeil à leur code : il n’y en a tout simplement pas, le prompt utilisateur est envoyé tel quel comme requête.
- run.py ligne 66 : la requête utilisateur est hardcodée dans ‹ inp › et passée à ‹ sample_from_model › comme prompt.
- runners.py : ligne 599, le prompt est passé tel quel dans la Request, qui sera tokenisée ligne 513.
Ce code semble être partiel : tout est exécuté sur le CPU, pas d’accélération GPU, pas d’utilisation de SIMD, c’est vraiment un test basique de leur modèle.
1 « J'aime »
Priez qu’il n’y a pas d’ IA dark de conçu à cause de cela…Sinon l’armée enverra Skynet sur la toile pour faire le ménage.
Faut pas se voiler la face non plus. Il rend ce code public pour pouvoir taper sur Open AI et son modèle fermé. Mais je n’ai aucun sur le fait que ce qui est sur le repo public est très loin de la version développé en interne pour sa start-up.
1 « J'aime »
C’est aussi une v1 publique. La parrallélisation des calculs GPU ou SIMD arriveront, peut-être, plus tard. Le taff de fou qu’il faut pour rendre un code publique (un truc dans les normes quoi), vs ce qui peut tourner en prod avant, ils ont du prioriser.
Cela ne changera strictement rien.
Mettre tout en closed source n’empêchera personne d’en développer mais cela se fera sous les radars et on le découvrira trop tard.
Faut bucher pour rendre inopérant une IA et la rendre inactif.
Je veux pas faire peur mais une IA niveau recherche fondamental…dans Star Trek (c’est de la SF utopique), mais il y a des labo de recherches très avancées mais ils sont très éloignés dans l’espace (mais là le faire sur notre planète Terre, c’est se tirer une balle dans le pied)et font des experiences qui sont contraire à l’étique et peuvent bouleverser une portion de l’univers existant.
Cette initiative s’inscrit dans le contexte plus large de la concurrence entre les différentes entités travaillant sur l’IA, en particulier entre xAI de Musk et OpenAI, reste à voir comment cette décision influencera le paysage de l’IA à long terme et si elle contribuera à favoriser une approche plus ouverte et collaborative dans le développement de cette technologie.
Oui mais si elle tombe entre de mauvaises mains…J’éspère juste qu’ils ont prévu le coup. Une autodestruction.