NVIDIA Snapshot、GPUワークロードの起動を数分から数秒に短縮

NVIDIAは、Kubernetes上のGPUワークロードを高速化するために設計されたオープンソースのチェックポイントおよび復元システム「Snapshot」をリリースしました。2026年11月10日に公開されたこのツールは、CPUおよびGPUメモリの完全に初期化された状態をキャプチャし、推論レプリカの起動を数分ではなく数秒で行えるようにします。これは、大規模言語モデル（LLM）サービングにおけるコールドスタートというボトルネックに対処するもので、重み付けの初期化やカーネルのコンパイルがスケーリングを遅延させる問題を解決します。

何が起きたか

Snapshotが対処する核心的な課題は、新しい推論レプリカをオンラインにする際のレイテンシです。需要が急増したりノードが障害を起こしたりした場合、インフラチームは新しいポッドのプロビジョニングを行う必要があります。このプロセス、すなわちコールドスタートでは、コンテナイメージの読み込み、推論エンジンの起動、GPUメモリへのモデル重みの読み込み、torch.compileなどのツールを用いたコードのコンパイル、そしてCUDAグラフのキャプチャが含まれます。大規模モデルの場合、このシーケンスには数分かかり、その間、利用可能なGPUはリクエストを処理せずアイドル状態のままとなります。

Snapshotは、初期化されたワークロードを再利用可能なアーティファクトとして扱うことで、このワークフローを変更します。ポッドが完全に準備できた時点で、Snapshotはその全体のメモリ状態をキャプチャします。新しいレプリカが必要になると、システムはこの状態を互換性のあるハードウェア上に直接復元します。これにより、重み付けの読み込みやコンパイルといった重い処理をバイパスできます。本システムは、テンソル並列処理、データおよびエキスパート並列処理、デコードコンテキスト並列処理など、複雑な並列化戦略をサポートしています。8つのGPUにまたがる最大1 TBのチェックポイントを処理できるため、大規模な混合専門家（Mixture-of-Experts）モデルにも適しています。

早期導入者からは、大幅な改善が報告されています。プロジェクトへの貢献者であるCrusoeは、NVIDIA HGX B300ハードウェア上でGLM-5.3ポッドの準備完了時間を約8分から31秒に短縮しました。同様に、Saturn CloudはvLLMの起動時間を2〜8.5分の範囲から6〜34秒に削減しました。これらの結果は、ゼロからの迅速なスケーリング能力を必要とする本番環境において、この技術が実用的であることを示しています。

仕組み

Snapshotは、チェックポイントと復元という2つの主要なアクションを通じて動作します。どちらもKubernetesのカスタムリソースによって管理されます。チェックポイントを作成するには、実行中のポッドに対してPodSnapshotリソースを定義するか、ポッドが準備完了になった直後にチェックポイントを実行するためのSnapshotJobを使用します。システムはワークロードを一時的に停止し、CPUおよびGPUメモリ状態を可搬性の高いアーティファクトとしてキャプチャします。このアーティファクトには、初期化されたモデル重み、コンパイル済みカーネル、ランタイムバッファが含まれますが、キー・バリューキャッシュはキャプチャ前にクリアされるため含まれません。

復元は、新しいポッド仕様書に特定の注釈nvidia.com/restore-fromを追加することでトリガーされます。ターゲットノード上のSnapshotエージェントがアーティファクトを検出し、復元プロセスを開始します。これには、Checkpoint/Restore in Userspace (CRIU) を使用してCPUプロセス状態を再読み込みし、専用のCUDA復元メカニズムを使用してGPU状態をビデオメモリにコピーする作業が含まれます。その後、ワークロードは新しいノードに適応し、サービス提供を再開するために簡易的なハンドシェイクを実行します。このプロセスでは、初期エンジン起動、重み付け読み込み、グラフキャプチャフェーズが完全にスキップされます。

主要な詳細

• テストされた構成全体で、復元時間は3.6秒から42.7秒の範囲であり、コールドスタートと比較して8倍から36倍の高速化を実現しています。
• チェックポイント作成には、モデルサイズに応じて15秒から5.5分かかりますが、このコストは複数の復元操作に分散されます。
• チェックポイント作成と復元の合計時間は、テストされたすべての構成において、単一のコールドスタートよりも短くなります。
• 大規模な8-GPU混合専門家モデルの場合、GPU状態の復元は総復元時間のうち18秒から29秒を占めます。
• CRIUによるCPUプロセス復元には4.2秒から10.8秒かかり、大規模な復元操作においてはGPU状態の転送が支配的な要因であることを示しています。
• 本システムは、VAST NFSストレージを搭載したNVIDIA B200 GPU上で、vLLM 0.31.0、SGLang 0.5.21、NVIDIA TensorRT LLM 1.3.0をサポートしています。

なぜ重要なのか

AIインフラを構築するエンジニアリングチームにとって、GPUのプロビジョニングからトラフィック処理までのギャップは、大きな効率の漏れです。コールドスタートのため、チームは急激なスパイクに対応するために容量を過剰にプロビジョニングせざるを得ず、迅速なスケーリングに頼ることができません。起動時間を45秒未満に短縮することで、Snapshotはより積極的な自動スケーリングポリシーを可能にします。これにより、クラスターは低需要期には軽量に保たれ、トラフィックが急増した際には迅速に拡張できるようになり、全体的なリソース利用率が向上し、クラウドコストが削減されます。

さらに、この技術は障害からの回復を簡素化します。ノードがダウンした場合、失われた容量を置き換えるために新しいポッドの初期化を数分待つ必要がなくなります。復元されたポッドは即座にリクエストを受け入れる準備ができているため、サービスレベル契約（SLA）をより効果的に維持できます。これは、初期化の複雑さがモデルサイズとともに増加する大規模な混合専門家モデルにとって特に重要です。テラバイト規模の状態をチェックポイントおよび復元できる機能により、これらの巨大なモデルの運用管理が現実的になります。

実施できること

• NVIDIA Snapshotリポジトリにアクセスし、Kubernetesクラスタ向けのインストール手順と使用ガイドを確認してください。
• NVIDIA Dynamoユーザーガイドを検討し、自動復元のためにSnapshotを推論ワーカーと統合する方法を学んでください。
• vLLM、SGLang、TensorRT LLM向けに提供されている例をテストし、現在のスタックとの互換性を評価してください。
• ハードウェアが要件を満たしていることを確認してください。具体的には、チェックポイントノードと復元ノード間でGPUモデルとドライバが一致している必要があります。
• NVIDIA Dynamo Slackワークスペースに参加し、#snapshot-devチャンネルで統合に関する課題について議論してください。
• 15秒から5.5分の作成ウィンドウに基づき、最適なチェックポイント頻度を決定するために、具体的なワークロードをベンチマークしてください。