Les relations à rendre visibles
Pour chaque dépendance importante, préciser le responsable, l’usage, le mode de défaillance et l’alternative disponible. Vérifier les dépendances communes : deux solutions peuvent sembler indépendantes tout en partageant une identité, une plateforme, une compétence ou un contrat.
Un prompt demandant d’être prudent n’est pas une frontière de sécurité. Les services appelés doivent appliquer leurs propres autorisations.
Inclure objectifs, outils accessibles, données, identités, limites de dépense, validations et arrêt d’urgence.
Une instruction contenue dans un document non fiable peut influencer le modèle et l’amener à proposer une action indésirable.
Application à votre contexte
Pour chaque relation importante, précisez l'usage, le responsable et ce qui se passe en cas d'indisponibilité. Cherchez aussi les ressources communes qui rendent plusieurs alternatives moins indépendantes qu'elles ne le paraissent.
Décrivez la tâche autorisée, les données accessibles et ce que le système ne doit jamais faire seul. Constituez un jeu d'évaluation représentatif et séparez les essais des données utilisées pour améliorer la solution. Prévoyez le refus, l'incertitude et l'escalade humaine.