Le chercheur en sécurité Patrick Wardle a découvert une faille zero-day dans Muse, l’assistant IA de Meta pour Mac. Une simple commande locale suffit à détourner l’agent pour intercepter la voix de l’utilisateur et prendre le contrôle de ses comptes connectés.
2 « J'aime »
C’est chaud comme faille…
Ca montre la fiabilité de l’IA …
C’ était assez prévisible.
Un agent AI avec des autorisations avancées augmente considérablement les surfaces d’attaque.
Ce que j’attends surtout de voir, c’est la résistance aux injections de prompt. L’injection de prompt reste un énorme problème sans solution fondamentale, uniquement des sparadraps sur sparadraps.
Est-ce qu’un simple e-mail avec des instructions cachées pourrait faire effectuer des actions à Muse ?
Mdr ! … Pour des ingénieurs qui sont payés à prix d’or ils sont même pas foutus de sécuriser leurs propres jouets ! .. je vous jure c’est vraiment n’importe quoi ! .. honnêtement c’est pas étonnant vu que ça vient de meta.
En meme temps, on est chez Meta non ?
Il faut etre fou pour croire en leur parole, vie privee, securite, messagerie chiffre de bout en bout etc…