Giskard AI

Giskard AI est une plateforme open-source dédiée au test, à l’évaluation et à la sécurisation des systèmes d’intelligence artificielle, avec un accent fort sur les modèles de langage et les applications LLM. Elle permet d’identifier des failles telles que les hallucinations, biais, erreurs factuelles, problèmes de robustesse ou comportements non souhaités avant et après la mise en production. Giskard se positionne comme un outil de “QA pour l’IA”, en apportant des pratiques proches du testing logiciel classique au monde des modèles statistiques.

En 2024–2025, avec la montée en puissance des agents IA et des systèmes RAG exposés à des utilisateurs finaux, Giskard répond à un besoin critique : fiabiliser les modèles et réduire les risques avant déploiement. La plateforme combine tests automatiques, scénarios adverses, audits humains et intégration dans les pipelines MLOps. Elle est utilisée aussi bien par des data scientists que par des équipes produit et conformité souhaitant mieux comprendre et contrôler le comportement réel de leurs modèles.