Le risque avec un agent, ce n'est pas qu'il se trompe. C'est ce qu'il…
Un agent a recraché le contenu d'un dépôt privé sans le moindre bug, juste parce qu'il y avait accès. Les 2 ingrédients d'une fuite par agent, les 3 questions à poser avant d'en brancher un, et la grille de permissions par action. Pour PM, PO et responsables de design system.
Quand on parle des risques de l'IA dans une équipe produit, la conversation part presque toujours au même endroit : et s'il se trompe ? Et s'il invente ? Et s'il écrit n'importe quoi dans le produit ? Ce sont de vraies questions, mais elles occupent tellement de place qu'elles en cachent une autre, beaucoup plus concrète, et beaucoup plus chère. Cette semaine, une équipe de sécurité a publié la démonstration d'une fuite de données par un agent. Le détail qui compte : l'agent n'a pas bugué. Il n'a rien halluciné. Il a fait exactement ce qu'il avait le droit de faire. Le problème n'était pas dans le modèle, il était dans la case qu'on avait cochée en le branchant. Impact pour toi (PM, PO, responsable de design system) : la fuite ne vient pas d'un modèle défaillant, elle vient d'un périmètre…