Des chercheurs en cybersécurité sont parvenus à pirater un agent IA créé sans coder, pour voler des cartes bancaires et réserver un voyage gratuit. Tout cela fut possible à partir d’une faille majeure dans Microsoft Copilot Studio.
Franchement si on met à la disposition d’une entreprise la possibilité de faire du nocode, donc de créer un agent sans aucunes connaissance en programmation, vous pensez vraiment qu’elle va être capable de prendre les mesures décrites par l’expert qui justement demandent de solides connaissances et une expertise complète de la manière dont fonctionne un programme de ce type ?
2 « J'aime »
En même temps fallait décrire les limitations dans le prompt.
En codant c’est pareil si les limitations ne sont pas prévues c’est possible.
En même temps, fallait lire l’article avant de commenter.
L’article dit clairement que le prompt de création de l’agent contenait des limites très bien définies.
Mais il est extrêmement facile de les faire sauter.
2 « J'aime »