Établir un diagnostic
Une instruction contenue dans un document non fiable peut influencer le modèle et l’amener à proposer une action indésirable.
Classer les informations en trois états : constaté, déclaré mais non confirmé, et inconnu. Cette distinction rend les prochaines vérifications plus utiles qu’une note de maturité attribuée sans preuve.
Dans un environnement isolé, vérifier qu’un agent ne peut exécuter une action non autorisée même s’il la propose.
Suivre actions bloquées, validations humaines, erreurs d’exécution et coût par processus.
Application à votre contexte
Confrontez les entretiens, les documents et au moins une observation de fonctionnement. Conservez les divergences : elles sont souvent plus instructives qu'un score de maturité calculé trop tôt.
Distinguez la plausibilité d'une réponse de son exactitude. Testez les informations manquantes, les documents contradictoires, les droits d'accès et les instructions malveillantes présentes dans les données. Un lien vers une source n'établit pas automatiquement que cette source soutient la réponse.
Trois actions de départ
- Définir les actions autorisées et interdites
- Imposer les contrôles dans les outils et services
- Tester erreurs, instructions hostiles et arrêt du processus