Oui les IA agentiques sont dangereuses pour votre vie privée, c’est en tout cas ce que pense Meredith Whittaker, la présidente de Signal.
Pour résumé son propos de manière plus explicite : installer une IA agentique revient à installer un cheval de Troie sur sa machine.
6 « J'aime »
Oui sauf que c est toi sur le cheval
Les troyens aussi pensaient qu’ils étaient seuls à jouer avec leur nouveau cheval en bois.
Blague à part, je pense que tu n’as pas compris le propos rapporté par l’article.
La présidente de Signal dit que les IA agentiques, ça revient à installer une version insuffisamment sécurisée de TeamViewer sur sa machine et de demander aux concepteurs d’IA de prendre le contrôle de ta machine pour faire des actions à ta place.
Ça implique que des acteurs malveillants peuvent trouver des trous dans la sécurité pour obtenir un accès open-bar à ta machine.
Et ça implique aussi qu’il faut faire confiance aveugle aux concepteurs d’IA pour ne pas faire de conneries avec ta machine.
En sachant qu’il n’y a pas si longtemps que ça, des entreprises vendaient des IA agentiques qui étaient en fait des humains sous-payés dans un pays lointain (soi-disant le temps que le modèle finisse son entraînement, mais il me semble que les boîtes ont coulé avant d’aboutir).
Et même si la technologie progresse suffisamment pour que l’agent IA puisse tourner 100% hors-ligne en local sur ta machine, ça demande quand même de faire une grosse confiance dans un truc qui n’a aucun sens critique et qui peut avoir une « hallucination » à n’importe quel moment et acheter un set de Lego 1500 pièces à 200€ en forme de chaussettes au lieu d’acheter une paire de chaussettes normales.
Si tu es obligé de surveiller le moindre clic de l’agent, autant faire le boulot soi-même.
Surtout que si l’agent doit pouvoir être surveillé, ça veut dire qu’il doit être ralenti 100x pour qu’un humain puisse suivre les mouvements.
1 « J'aime »