Organiser la mise en œuvre
Comparer l’IA à une solution de référence, définir les erreurs inacceptables et maintenir une décision humaine identifiable pour les conséquences importantes.
Conserver une décision humaine nominale ne suffit pas à transférer ou effacer les responsabilités de l’organisation.
Couvrir compétences, information disponible, charge, délai d’examen, autorité de refus et traçabilité.
La direction assume les finalités, le métier exerce le contrôle, et la DSI rend les résultats et limites compréhensibles.
Une procédure de supervision et des critères d’escalade et d’arrêt.
Application à votre contexte
Les trois actions proposées ci-dessous constituent un point de départ. Validez les résultats avec leurs utilisateurs et ajustez le niveau de détail avant d'étendre la démarche.
Décrivez la tâche autorisée, les données accessibles et ce que le système ne doit jamais faire seul. Constituez un jeu d'évaluation représentatif et séparez les essais des données utilisées pour améliorer la solution. Prévoyez le refus, l'incertitude et l'escalade humaine.
Trois actions de départ
- Définir les décisions qui restent humaines
- Fournir les éléments nécessaires au contrôle
- Tester la capacité de refus et de correction en situation réaliste