クラウドとインフラ

OpenShellとAgent SandboxによるKubernetes上のAIエージェントのセキュリティ強化

OpenShellは、Kubernetes上のAIエージェントに対して細粒度のランタイム制御を提供し、コスト重視のスケーリングを行うAgent Substrateを補完します。

ガラス製の立方体の中に光るロボットが入っており、その周りをセキュリティロックとシールドが囲んでいる。
この記事用に生成されたイラスト

英語の原文から自動翻訳されました。

AIエージェントはもはや単純なAPI呼び出しツールではありません。信頼できないインターネットソースから取得されることが多い認証情報を使用して、シェルコマンドの実行、パッケージのインストール、ファイルシステムへのアクセスを行います。こうした信頼できないコードの実行に伴うセキュリティリスクに対処するため、NVIDIAはOpenShellを発表しました。これは最近CNCF Sandboxプロジェクトとなりました。本ガイドでは、プラットフォームエンジニアがKubernetes上でOpenShellをデプロイし、これらの自律型エージェントに対して厳格な分離とポリシー制御を実施する方法を詳しく説明します。

何が起きたか

OpenShellは、各AIエージェントを専用のサンドボックスに配置するランタイム環境を導入します。このサンドボックスは、エージェントの実行コンテキスト外にある信頼できるスーパーバイザーによって管理されます。このプロジェクトでは、管理者がYAMLでファイルシステムアクセス、プロセス権限、ネットワーク接続性、および認証情報の処理に関する具体的な制御を宣言できます。例えば、Landlockはエージェントが読み書きできるパスを制限し、seccompと非rootユーザー設定はプロセス機能を制限します。ネットワークトラフィックはデフォルトで拒否され、特定のバイナリ、ホスト、HTTPメソッドに対する明示的なルールが必要になります。

Kubernetesとの統合は、独自のスケジューラーを持ち込むのではなく、SIG AppsのAgent Sandboxプロジェクトに依存しています。つまり、OpenShellエージェントはPod、Service、NetworkPolicyなどの標準的なKubernetesオブジェクトとして表示されます。しかし、OpenShellはネイティブKubernetesにはない可視性を追加します。例えば、どの特定のバイナリがリクエストを行ったか、またはPOSTアクションが許可されているかを識別できます。IPアドレスとポートレベルで動作する標準的なNetworkPolicyとは異なり、OpenShellはアプリケーション層ポリシーを適用できます。例えば、curlによるGitHub Issueの読み取りは許可しつつ、作成はブロックするといった制御が可能です。

デモリポジトリでは、Kubernetes 1.35、Cilium 1.20、Kyverno 1.18.2を使用する2ノードのkindクラスターでこのワークフローを示しています。セットアップにより、サンドボックスは現在、Kubernetes APIを直接介してではなく、Gateway APIを通じて作成されることが強調されています(カスタムリソース定義は計画中です)。アーキテクチャは、強い分離を保証するためにエージェントごとにスーパーバイザーPodを使用しますが、将来の最適化なしで大規模環境ではスケーリング上の課題に直面する可能性があります。

仕組み

OpenShellゲートウェイはすべてのサンドボックスの中央コントローラーとして機能し、Agent Sandboxコントローラーを介してリクエストをKubernetesオブジェクトに変換します。ユーザーがサンドボックスを作成すると、ゲートウェイは呼び出し元を認証し、プロビジョニングフェーズでリクエストを記録します。その後、ワークロードPodからのすべてのアウトバウンドトラフィックをブロックするNetworkPolicyを生成し、特定ポート経由でのスーパーバイザーからのインバウンド接続のみを許可します。続いて、Agent SandboxコントローラーがワークロードPodと永続ボリュームクレームを作成し、セキュリティチェックが完了するまでスケジューリングゲートでPodを保留します。

Podがアドミットされると、ドライバーはそれが追加機能なしの非rootユーザーとして実行され、デフォルトのseccompプロファイルを適用していることを検証します。これらのチェックに失敗した場合、作成は中止されます。成功すると、システムはスーパーバイザーPodを起動し、サービス経由でワークロードに接続します。スーパーバイザーは短命トークンを受領し、エージェントのコマンド開始前にファイルシステム、プロセス、DNS制御を適用します。エージェントからのすべてのアウトバウンドリクエストはスーパーバイザーを経由し、アップストリーム接続を開く前にポリシーに基づいて宛先とHTTPメソッドを検証します。

このアーキテクチャにより、サンドボックスを再起動せずに動的なポリシー更新が可能になります。管理者は、すべてのcurlリクエストのブロックから特定APIへの読み取り専用アクセスの許可へ切り替えるなど、具体的なアクションを許可または拒否するルールを変更できます。ログは許可されたリクエストと拒否されたリクエストの詳細な可視性を提供し、プラットフォームチームがエージェントの挙動を効果的に監査できるようにします。ライフサイクル管理には、サンドボックスの停止、開始、削除が含まれ、関連するKubernetesリソースの自動クリーンアップが行われます。

主要な詳細

  • OpenShellはSIG AppsのAgent Sandboxプロジェクトを使用し、エージェントを標準的なKubernetes Pod、Service、PVCとして管理します。
  • ファイルシステムアクセスはLandlockを使用して制限され、システムパスへの読み取り専用アクセスと、指定されたサンドボックスディレクトリへの書き込みアクセスのみが許可されます。
  • ネットワークポリシーはアプリケーション層で適用され、IPアドレスだけでなく、バイナリ、ホスト、ポート、HTTPメソッドに基づく制御が可能になります。
  • 認証情報はエージェントに直接公開されることはなく、スーパーバイザーが許可されたエンドポイントでのみプレースホルダーを実キーに置き換えます。
  • 現在のサンドボックス作成はGateway APIを介して行われますが、将来のリリースではKubernetes CRDオペレーターが計画されています。
  • デモ環境では、Kyvernoポリシーを使用してイメージ衛生、リソース境界、RBAC制限を強制しており、これらはネイティブKubernetes制御だけでは対応できません。

なぜ重要なのか

ソフトウェアビルダーにとって、自律型エージェントへの移行は重大なセキュリティ攻撃面をもたらします。エージェントは外部入力に基づいてコードを実行し意思決定を行うため、従来のコンテナセキュリティ対策では不十分です。OpenShellはリクエストごとのポリシー適用を提供することでこれに対処し、エージェントが自身のプロセスを侵害した場合でも不正なアクションを実行できないようにします。このレベルの粒度は、本番システムとやり取りし機密性の高い認証情報を保持するエージェントを展開する企業にとって不可欠です。

OpenShellとAgent Substrateのような他のプロジェクトとの区別も、アーキテクチャ上の意思決定において重要です。Substrateがスナップショットと共有ワーカーPodを通じたアイドル状態のエージェントのコスト効率の高いスケーリングに焦点を当てる一方、OpenShellはKubernetesエコシステム内での詳細なポリシー制御と可視性を優先します。チームは主な制約条件に基づいて選択する必要があります。コストと密度が最優先であればSubstrateが望ましい可能性があり、セキュリティと監査可能性が主な懸念事項であれば、既存のKubernetesツールと統合されたより堅牢なソリューションであるOpenShellが適しています。

実施可能なこと

  • クラスター内でインバウンドおよびアウトバウンドのNetworkPolicy適用をサポートするCiliumなどのCNIプラグインをインストールします。
  • Agent SandboxコントローラーとCRDsをデプロイした後、OpenShellゲートウェイHelmチャートをデプロイしてランタイム環境を確立します。
  • Kyvernoや同様のポリシーエンジンを使用して、サンドボックスイメージ、リソース制限、RBAC構成に対するアドミッション制御を適用します。
  • ワークスペースを設定してサンドボックス、ポリシー、ログをグループ化し、異なるチームやプロジェクト間の関心事の明確な分離を確保します。
  • スーパーバイザーログを通じてエージェントアクティビティを監視し、拒否されたリクエストを特定してリアルタイムでポリシーを調整します。
  • 特定のワークロードパターンに基づき、OpenShellの強力な分離とAgent Substrateのスケーリング効率のトレードオフを評価します。
  • #kubernetes
  • #ai-security
  • #openshell
  • #cncf
  • #platform-engineering

Bytechapストアのツール

続きを読む

すべての記事