Protect AI

Protect AI est une plateforme de sécurité spécialisée dans les systèmes d’intelligence artificielle et de machine learning.

Elle vise à protéger l’ensemble du cycle de vie : sélection des modèles, développement, chaîne d’approvisionnement, tests, déploiement, exécution et surveillance.

La plateforme unifiée regroupe plusieurs produits, notamment Guardian, Recon et Layer.

Guardian analyse et sécurise les modèles avant leur utilisation. Il détecte les risques, vulnérabilités, fichiers suspects, composants malveillants et problèmes liés à la provenance.

Recon est une plateforme de red teaming destinée aux applications IA. Elle automatise les tests adversariaux afin d’identifier les vulnérabilités avant qu’un attaquant ne les exploite.

Layer assure la sécurité runtime des applications LLM, RAG et agents. Il analyse les prompts, réponses, outils et comportements afin de détecter les attaques et contenus dangereux.

Layer s’appuie sur des scanners offensifs et défensifs afin d’identifier les prompt injections, jailbreaks, fuites de données, contenus toxiques, abus d’outils et autres menaces.

Sightline est une base de vulnérabilités dédiée à la chaîne d’approvisionnement AI/ML. Elle aide à identifier les risques dans les bibliothèques, modèles, frameworks et dépendances.

LLM Guard est une suite open source ou accessible via l’écosystème Protect AI pour analyser, nettoyer et filtrer les prompts et réponses.

La plateforme peut être intégrée aux pipelines CI/CD, MLOps, registres de modèles, systèmes de déploiement et environnements de production.

Protect AI vise les équipes AppSec, MLOps, ML engineering, data science, sécurité, conformité et gouvernance.

Les cas d’usage incluent le scan de modèles, la détection de malware, l’analyse de dépendances, le red teaming automatisé, la protection runtime et la mise en conformité.

Protect AI publie également de la recherche sur les vulnérabilités ML, les attaques de modèles, la sécurité MCP et les risques agentiques.

La plateforme peut sécuriser des modèles provenant de sources externes avant leur déploiement.

Elle peut aussi contrôler les applications utilisant RAG, outils, agents et modèles de plusieurs fournisseurs.

L’objectif est d’ajouter des contrôles de sécurité propres à l’IA, en complément des outils traditionnels d’AppSec et de cybersécurité.

Protect AI propose des déploiements adaptés aux entreprises, avec intégrations, politiques, reporting et support.

La tarification n’est pas publique. Les clients doivent demander une démonstration et une proposition selon les produits, volumes, environnements et besoins de support.

Aucun plan gratuit permanent ne couvre la plateforme commerciale complète.

Certaines briques open source, comme LLM Guard et d’autres projets, peuvent être utilisées gratuitement, mais cela ne transforme pas l’offre entreprise en freemium.

La fiche est donc classée « Payant ».

La sécurité IA doit couvrir plusieurs couches. Scanner un modèle ne suffit pas si l’application reste vulnérable aux prompt injections ou aux abus d’outils.

Inversement, un filtre runtime ne remplace pas le contrôle de la chaîne d’approvisionnement.

Protect AI se distingue par la couverture complète de ces couches dans une plateforme unifiée.

Le coût et la complexité peuvent toutefois être élevés pour une petite entreprise ou un projet simple.

La mise en œuvre nécessite un inventaire des modèles, applications, dépendances, données et agents.

Les équipes doivent définir les politiques, niveaux de risque, exceptions et procédures de réponse aux incidents.