La nouvelle fonctionnalité Shadow AI Detection apporte transparence et gestion des risques, protégeant contre l’usage non contrôlé de modèles et d’appels API d’IA.
JFrog Ltd annonce l’expansion de ses capacités de gouvernance de l’IA au sein de la JFrog Software Supply Chain Platform avec l’introduction de Shadow AI Detection. Présentée lors de l’événement JFrog swampUP Europe, cette nouvelle fonctionnalité vise à offrir aux entreprises la visibilité et le contrôle nécessaires pour gouverner et sécuriser l’ensemble de la chaîne d’approvisionnement de l’IA, en les protégeant contre l’usage non contrôlé de modèles et d’API d’IA, appelé Shadow AI, susceptible d’introduire d’importants risques en matière de sécurité et de conformité.
Apporter de la transparence pour une meilleure gouvernance des modèles et API d’IA
L’intégration rapide de l’IA dans les pipelines de développement représente aujourd’hui un défi majeur de gouvernance pour les organisations. En effet, les développeurs et les équipes de data science intègrent fréquemment des modèles et services d’IA directement auprès de fournisseurs tels qu’Anthropic, OpenAI ou Google, sans supervision organisationnelle. Cette activité non gouvernée, souvent désignée sous le terme de Shadow AI, crée des zones d’ombre dangereuses qui exposent les entreprises aux violations de conformité, aux fuites de données et aux attaques ciblant la chaîne d’approvisionnement.
La nouvelle fonctionnalité Shadow AI Detection de JFrog permet de détecter automatiquement et de dresser un panorama complet de l’ensemble des modèles d’IA internes ainsi que des passerelles API externes utilisés au sein de l’organisation pour accéder à des données provenant de sources tierces, qu’elles soient approuvées ou employées de manière ad hoc. Une fois identifiés, ces modèles et services nouvellement visibles peuvent être gouvernés de façon centralisée, offrant aux équipes la possibilité de :
- Appliquer des politiques de sécurité et de conformité sur l’ensemble des actifs d’IA.
- Établir des parcours définis pour que les utilisateurs autorisés puissent accéder aux services d’IA tiers et les utiliser de manière contrôlée et entièrement traçable.
- Suivre et monitorer l’usage de modèles et API d’IA externes tels qu’OpenAI ou Gemini.
Répondre à l’impératif mondial de conformité en matière d’IA
La nécessité de disposer d’une traçabilité complète de toutes les activités liées à l’IA s’impose désormais comme un impératif, porté par l’émergence de nouvelles réglementations et par la montée des risques de sécurité à l’échelle mondiale. Les nouvelles capacités de détection de l’IA proposées par JFrog sont conçues pour aider les entreprises à garantir conformité et sécurité en alignement avec des cadres clés tels que le US Transparency in Frontier AI Act, le Cyber Resilience Act de l’UE, l’AI Act de l’UE, les directives du BSI en Allemagne, la directive NIS2 de l’UE, ainsi que les Guidelines and Companion Guide for Securing AI Systems.
