Agents d’IA et autorisations d’action

Comprendre l’enjeu et le périmètre

Il peut assister des processus multiétapes tout en restant limité par des règles explicites et des validations adaptées.

Inclure objectifs, outils accessibles, données, identités, limites de dépense, validations et arrêt d’urgence.

Passer à l’action

• Définir les actions autorisées et interdites
• Imposer les contrôles dans les outils et services
• Tester erreurs, instructions hostiles et arrêt du processus

Décrivez la tâche autorisée, les données accessibles et ce que le système ne doit jamais faire seul. Constituez un jeu d'évaluation représentatif et séparez les essais des données utilisées pour améliorer la solution. Prévoyez le refus, l'incertitude et l'escalade humaine.

Responsabilités et moyens

Le métier définit les finalités, la sécurité borne les droits, la DSI contrôle les outils, et un responsable garde l’autorité d’arrêt.

Inclure tests, supervision, journaux, reprise et contrôle des consommations.

Produire et vérifier

Livrable utile

Un contrat d’action, une matrice de permissions et des scénarios de contrôle.

Preuve à rechercher

Dans un environnement isolé, vérifier qu’un agent ne peut exécuter une action non autorisée même s’il la propose.

Indicateur à interpréter

Suivre actions bloquées, validations humaines, erreurs d’exécution et coût par processus.

Distinguez la plausibilité d'une réponse de son exactitude. Testez les informations manquantes, les documents contradictoires, les droits d'accès et les instructions malveillantes présentes dans les données. Un lien vers une source n'établit pas automatiquement que cette source soutient la réponse.

Arbitrages et dépendances

Une instruction contenue dans un document non fiable peut influencer le modèle et l’amener à proposer une action indésirable.

L’agent dépend de ses outils, comptes de service, contrats d’API et sources documentaires.

Comparez l'IA à une solution sans IA et au processus actuel. Le coût inclut la préparation des données, la vérification des réponses, les erreurs et l'exploitation. Une bonne démonstration ne prouve ni la fiabilité en production ni la conformité d'un usage particulier.