Commentaires : "Personne n'est prêt pour l'IA générale" : le départ d'un directeur d'OpenAI interpelle

Un nouveau haut dirigeant d’OpenAI s’en va. Et en partant, il a fait des déclarations qui font un peu peur…

On dira un grand merci à ces gens plus tard qui se portent volotaires à cette lourde tâche qui est plus que nécessaire ! J’espère juste qu’on les mettra en lumière le moment venu !

2 « J'aime »

Cet aspect sécuritaire reste vague puisqu’il est plutôt moral donc incontrôlable.

Ou pas.
Franchement, je veux bien croire à la sincérité de leur propos. Mais mon instinct me dit le contraire.

1 « J'aime »

L’IA générale ne surpasserait pas l’être humain, elle l’égalerait dans toutes les tâches. Vous confondez avec l’ASI. Tout ça est encore de la théorie mais ça arrive plus vite qu’on le pense.

« OpenAI définit plutôt l’IAG comme un système hautement autonome capable de surpasser l’humain dans la plupart des tâches ayant un intérêt économique » (Intelligence artificielle générale — Wikipédia)

Pour être clair, le dirigeant d’openai ne craint pas d’avoir une ia qui asservisse les humains. Il craint une IA que les humains utilisent pour désinformer, pour augmenter les inégalités ou désorganiser le marché du travail. Il pense aussi au risque d’impacter le développement de l’ia en cas de guerre à Taïwan.
Il croit aussi en les bénéfices de l’ia et meet dans la catégorie “pas prêt” l’absence de gouvernance ou de stratégie permettant d’en bénéficier au mieux.

Ce n’est absolument pas à propos de skynet.

1 « J'aime »

« Il craint une IA que les humains utilisent pour désinformer » => Correction pour propager les fausses informations qu’ils n’aiment pas :stuck_out_tongue:

Ah, tiens, le trumpiste de service est revenu. Il continue avec les règles que Roy Con a fixer : attaque, attaque, attaque ; n’avoue rien, nie tout ; quoiqu’il se passe, proclame ta victoire, n’admet jamais la défaite.
Donc votre Donald et tout vos amis sont les inventeurs et propagateurs de fake news, et vous ne voulez toujours l’admettre. Donc vous tentez toujours de renverser la charge de la faute aux autres, pourtant c’est bien chez vous que l’on a inventé les faits alternatifs.