Organiser la mise en œuvre
Comparer l’IA à une solution de référence, définir les erreurs inacceptables et maintenir une décision humaine identifiable pour les conséquences importantes.
Un prompt demandant d’être prudent n’est pas une frontière de sécurité. Les services appelés doivent appliquer leurs propres autorisations.
Inclure objectifs, outils accessibles, données, identités, limites de dépense, validations et arrêt d’urgence.
Le métier définit les finalités, la sécurité borne les droits, la DSI contrôle les outils, et un responsable garde l’autorité d’arrêt.
Un contrat d’action, une matrice de permissions et des scénarios de contrôle.
Application à votre contexte
Les trois actions proposées ci-dessous constituent un point de départ. Validez les résultats avec leurs utilisateurs et ajustez le niveau de détail avant d'étendre la démarche.
Décrivez la tâche autorisée, les données accessibles et ce que le système ne doit jamais faire seul. Constituez un jeu d'évaluation représentatif et séparez les essais des données utilisées pour améliorer la solution. Prévoyez le refus, l'incertitude et l'escalade humaine.
Trois actions de départ
- Définir les actions autorisées et interdites
- Imposer les contrôles dans les outils et services
- Tester erreurs, instructions hostiles et arrêt du processus