Un premier périmètre utile

Le premier résultat à viser est le suivant : une procédure de supervision et des critères d’escalade et d’arrêt.

Décider dès le démarrage qui pourra utiliser ce résultat et quel événement justifiera d’étendre le périmètre. Éviter de choisir l’outil avant d’avoir stabilisé le besoin.

Couvrir compétences, information disponible, charge, délai d’examen, autorité de refus et traçabilité.

La direction assume les finalités, le métier exerce le contrôle, et la DSI rend les résultats et limites compréhensibles.

Une procédure de supervision et des critères d’escalade et d’arrêt.

Application à votre contexte

Choisissez une activité identifiable, un responsable disponible et un résultat réalisable. La première itération doit réduire une incertitude ou permettre une décision, pas seulement lancer une collecte sans fin.

Décrivez la tâche autorisée, les données accessibles et ce que le système ne doit jamais faire seul. Constituez un jeu d'évaluation représentatif et séparez les essais des données utilisées pour améliorer la solution. Prévoyez le refus, l'incertitude et l'escalade humaine.

Trois actions de départ

  • Définir les décisions qui restent humaines
  • Fournir les éléments nécessaires au contrôle
  • Tester la capacité de refus et de correction en situation réaliste
Remettre cette réponse dans son contexteSupervision humaine et responsabilité des décisions IA

Références pour approfondir