Le piège à éviter
Le registre est un point d’entrée, pas une preuve de conformité. Chaque usage conserve ses propres exigences et contrôles.
Pour éviter cette erreur, demander une démonstration plutôt qu’une simple affirmation : partir d’un processus métier et vérifier que toutes ses étapes utilisant de l’IA sont connues et rattachées à un responsable.
Partir d’un processus métier et vérifier que toutes ses étapes utilisant de l’IA sont connues et rattachées à un responsable.
Application à votre contexte
Cherchez un signal permettant de détecter cette erreur avant qu'elle ne produise un dommage. La prévention gagne à être intégrée dans un processus normal de travail plutôt que dans un rappel ponctuel sans suivi.
Distinguez la plausibilité d'une réponse de son exactitude. Testez les informations manquantes, les documents contradictoires, les droits d'accès et les instructions malveillantes présentes dans les données. Un lien vers une source n'établit pas automatiquement que cette source soutient la réponse.