Cloud et infrastructure

Sécuriser les agents IA sur Kubernetes avec OpenShell et Agent Sandbox

OpenShell fournit des contrôles d'exécution granulaires pour les agents IA sur Kubernetes, complétant la mise à l'échelle axée sur les coûts d'Agent Substrate.

Un cube en verre contenant un robot lumineux, entouré de cadenas et de boucliers de sécurité.
Illustration générée pour cet article

Traduit automatiquement depuis l'original anglais.

Les agents IA ne sont plus de simples appelants d'API ; ils exécutent des commandes shell, installent des packages et accèdent aux systèmes de fichiers en utilisant des identifiants provenant souvent de sources Internet non fiables. Pour répondre aux risques de sécurité liés à l'exécution de ce code non fiable, NVIDIA a lancé OpenShell, qui est récemment devenu un projet CNCF Sandbox. Ce guide détaille comment les ingénieurs de plateforme peuvent déployer OpenShell sur Kubernetes pour imposer une isolation stricte et des contrôles de politique pour ces agents autonomes.

Ce qui s'est passé

OpenShell introduit un environnement d'exécution qui place chaque agent IA dans un bac à sable dédié, géré par un superviseur de confiance situé hors du contexte d'exécution de l'agent. Le projet permet aux administrateurs de déclarer des contrôles spécifiques dans YAML pour l'accès au système de fichiers, les privilèges de processus, la connectivité réseau et la gestion des identifiants. Par exemple, Landlock limite les chemins qu'un agent peut lire ou écrire, tandis que seccomp et les paramètres d'utilisateur non-root restreignent les capacités des processus. Le trafic réseau est refusé par défaut, nécessitant des règles explicites pour des binaires, des hôtes et des méthodes HTTP spécifiques.

L'intégration avec Kubernetes repose sur le projet Agent Sandbox du SIG Apps, plutôt que d'amener son propre ordonnanceur. Cela signifie que les agents OpenShell apparaissent comme des objets Kubernetes standard tels que les Pods, les Services et les NetworkPolicies. Cependant, OpenShell ajoute une visibilité dont Kubernetes natif manque, comme identifier quel binaire spécifique a effectué une demande ou si une action POST est autorisée. Contrairement aux NetworkPolicies standards qui opèrent au niveau IP et port, OpenShell peut appliquer des politiques de couche application, telles que permettre à curl de lire les issues GitHub mais lui interdire d'en créer.

Un dépôt de démonstration illustre ce flux de travail sur un cluster kind à deux nœuds utilisant Kubernetes 1.35, Cilium 1.20 et Kyverno 1.18.2. La configuration souligne que les bacs à sable sont actuellement créés via l'API Gateway, et non directement via l'API Kubernetes, bien qu'une définition de ressource personnalisée soit prévue. L'architecture utilise un pod superviseur par agent pour garantir une forte isolation, un modèle qui pourrait rencontrer des défis de mise à l'échelle dans les grands environnements sans optimisations futures.

Comment cela fonctionne

La passerelle OpenShell agit comme le contrôleur central pour tous les bacs à sable, traduisant les demandes en objets Kubernetes via le contrôleur Agent Sandbox. Lorsqu'un utilisateur crée un bac à sable, la passerelle authentifie l'appelant et enregistre la demande dans une phase de provisionnement. Elle génère ensuite des NetworkPolicies pour bloquer tout le trafic sortant du pod de charge de travail, n'autorisant les connexions entrantes que depuis le superviseur sur un port spécifique. Le contrôleur Agent Sandbox crée ensuite le pod de charge de travail et une demande de volume persistant, maintenant le pod en attente avec une porte d'ordonnancement jusqu'à ce que les vérifications de sécurité réussissent.

Une fois le pod admis, le pilote vérifie qu'il s'exécute en tant qu'utilisateur non-root sans capacités ajoutées et avec des profils seccomp par défaut. Si ces vérifications échouent, la création est interrompue. En cas de succès, le système lance un pod superviseur, qui se connecte à la charge de travail via un service. Le superviseur reçoit un jeton à courte durée de vie et applique les contrôles de système de fichiers, de processus et de DNS avant que la commande de l'agent ne démarre. Chaque demande sortante de l'agent est routée à travers le superviseur, qui valide la destination et la méthode HTTP par rapport à la politique avant d'ouvrir la connexion amont.

Cette architecture permet des mises à jour dynamiques des politiques sans redémarrer le bac à sable. Les administrateurs peuvent modifier les règles pour autoriser ou refuser des actions spécifiques, telles que passer du blocage de toutes les demandes curl à l'autorisation d'un accès en lecture seule à des API spécifiques. Les journaux fournissent une visibilité détaillée sur les demandes autorisées et refusées, garantissant que les équipes de plateforme peuvent auditer efficacement le comportement des agents. La gestion du cycle de vie inclut l'arrêt, le démarrage et la suppression des bacs à sable, avec un nettoyage automatique des ressources Kubernetes associées.

Détails clés

  • OpenShell utilise le projet Agent Sandbox du SIG Apps pour gérer les agents comme des Pods, Services et PVC Kubernetes standard.
  • L'accès au système de fichiers est restreint à l'aide de Landlock, permettant un accès en lecture seule aux chemins système et un accès en écriture uniquement aux répertoires de bac à sable désignés.
  • Les politiques réseau sont appliquées au niveau de l'application, permettant des contrôles basés sur le binaire, l'hôte, le port et la méthode HTTP plutôt que simplement sur les adresses IP.
  • Les identifiants ne sont jamais exposés directement à l'agent ; un superviseur remplace les espaces réservés par de vraies clés uniquement aux points de terminaison autorisés.
  • La création actuelle des bacs à sable se fait via l'API Gateway, avec un opérateur CRD Kubernetes prévu pour les futures versions.
  • L'environnement de démonstration utilise des politiques Kyverno pour faire respecter l'hygiène des images, les limites de ressources et les restrictions RBAC que les contrôles Kubernetes natifs ne peuvent pas gérer seuls.

Pourquoi c'est important

Pour les développeurs logiciels, le passage vers des agents autonomes introduit une surface d'attaque significative. Les mesures traditionnelles de sécurité des conteneurs sont insuffisantes car les agents exécutent activement du code et prennent des décisions basées sur des entrées externes. OpenShell répond à cela en fournissant une application de politique par demande, garantissant qu'un agent ne peut pas effectuer d'actions non autorisées même s'il compromet son propre processus. Ce niveau de granularité est crucial pour les entreprises déployant des agents qui interagissent avec des systèmes de production et détiennent des identifiants sensibles.

La distinction entre OpenShell et d'autres projets comme Agent Substrate est également vitale pour les décisions architecturales. Alors que Substrate se concentre sur la mise à l'échelle rentable des agents inactifs grâce à la capture instantanée et aux pods de travailleurs partagés, OpenShell priorise le contrôle détaillé des politiques et la visibilité au sein de l'écosystème Kubernetes. Les équipes doivent choisir en fonction de leur contrainte principale : si le coût et la densité sont primordiaux, Substrate peut être préférable ; si la sécurité et l'auditabilité sont les principales préoccupations, OpenShell offre une solution plus robuste intégrée aux outils Kubernetes existants.

Ce que vous pouvez faire

  • Installez un plugin CNI comme Cilium qui prend en charge l'application des NetworkPolicy à la fois pour l'ingress et l'egress dans votre cluster.
  • Déployez le contrôleur Agent Sandbox et les CRDs, suivis du chart Helm de la passerelle OpenShell, pour établir l'environnement d'exécution.
  • Utilisez Kyverno ou des moteurs de politiques similaires pour appliquer des contrôles d'admission sur les images de bac à sable, les limites de ressources et les configurations RBAC.
  • Configurez des espaces de travail pour regrouper les bacs à sable, les politiques et les journaux, assurant une séparation claire des responsabilités pour différentes équipes ou projets.
  • Surveillez l'activité des agents via les journaux du superviseur pour identifier et ajuster les politiques concernant les demandes refusées en temps réel.
  • Évaluez les compromis entre la forte isolation d'OpenShell et l'efficacité de mise à l'échelle d'Agent Substrate en fonction de vos modèles de charge de travail spécifiques.
  • #kubernetes
  • #ai-security
  • #openshell
  • #cncf
  • #platform-engineering

Outils de la Boutique Bytechap

Continuer la lecture

Tous les articles