Chez OpenAI, on commence à prendre au sérieux la question de la sécurité des IA. La preuve avec l’arrivée de ce chercheur très inquiet au conseil d’administration de la Fondation OpenAI.
Pas très confiant dans l’avenir. Entre IA, climat, sur-consommation, ressources…
Mais je ne comprends pas, est-ce vraiment trop compliqué « d’enfermer » les IA au niveau des serveurs et d’avoir un gros bouton rouge pour tout couper si ça devient dangereux et incontrôlable ?
On entend plus parler de bulle IA. Le discours change et devient apocalyptique.
Il y a un danger, c’est certain mais pas forcément celui à la skynet.
De mon point de vue, cela sera un risque de sécurité des différentes institutions. Si les prochains systèmes sont capables de pirater n’importe quel système, nous ferons face à de nombreux chocs économiques.il y a un risque de concentration du pouvoir aussi avec la surveillance accrue, la manipulation de masse ou la dépendance technologique. Des perturbations importantes sur le marché du travail, là où les gouvernements ne sont pas préparés.
L’IA n’est pas dangereuse elle-même, c’est l’humain, les gouvernements et les entreprises qui les utilisent , le vrai danger.
et si les IA parviennent à contrôler le gros bouton rouge ???
