Préparer une vérification utile
L’agent dépend de ses outils, comptes de service, contrats d’API et sources documentaires.
Préparer des conditions représentatives, un résultat attendu et une procédure d’arrêt si le test devient perturbant. Conserver le résultat, les écarts et les corrections. Un test réussi sur un cas simple ne couvre pas automatiquement les exceptions ni les autres périmètres.
Exemple fictif : un agent prépare une commande, mais un contrôle indépendant exige une validation humaine au-delà d’un montant défini.
Un prompt demandant d’être prudent n’est pas une frontière de sécurité. Les services appelés doivent appliquer leurs propres autorisations.
Application à votre contexte
Définissez les préconditions, le scénario, le résultat attendu et le critère d'arrêt. Le test doit être autorisé et organisé sans mettre en danger la production ou les données.
Distinguez la plausibilité d'une réponse de son exactitude. Testez les informations manquantes, les documents contradictoires, les droits d'accès et les instructions malveillantes présentes dans les données. Un lien vers une source n'établit pas automatiquement que cette source soutient la réponse.