Le piège à éviter
Ne pas choisir l’IA parce qu’elle est disponible. Une règle déterministe ou une meilleure recherche documentaire peut mieux répondre au besoin.
Pour éviter cette erreur, demander une démonstration plutôt qu’une simple affirmation : comparer les résultats de l’IA à une méthode de référence sur des cas représentatifs, y compris les exceptions importantes.
Comparer les résultats de l’IA à une méthode de référence sur des cas représentatifs, y compris les exceptions importantes.
Application à votre contexte
Cherchez un signal permettant de détecter cette erreur avant qu'elle ne produise un dommage. La prévention gagne à être intégrée dans un processus normal de travail plutôt que dans un rappel ponctuel sans suivi.
Distinguez la plausibilité d'une réponse de son exactitude. Testez les informations manquantes, les documents contradictoires, les droits d'accès et les instructions malveillantes présentes dans les données. Un lien vers une source n'établit pas automatiquement que cette source soutient la réponse.