NVIDIA Rubinアーキテクチャ、協調設計によりAI推論のスループットを最大化
NVIDIAはRubinアーキテクチャにおける5つのハードウェアおよびソフトウェア戦略の詳細を公開しました。これらはKVキャッシュとモデル重みのメモリ使用量を最適化することで、AIファクトリーの効率を向上させます。
Kubernetes、GPU、DevOps、オブザーバビリティ、本番環境の安定運用。
NVIDIAはRubinアーキテクチャにおける5つのハードウェアおよびソフトウェア戦略の詳細を公開しました。これらはKVキャッシュとモデル重みのメモリ使用量を最適化することで、AIファクトリーの効率を向上させます。
NVIDIAによるCNCF Sandboxの新規プロジェクト「OpenShell」は、Agent Sandboxとスーパーバイザーベースのポリシー適用を活用し、Kubernetes上のAIエージェントに対して細粒度のランタイム制御を提供します。
Cloudflareは、ゾーン全体の再ビルドに代えて特定のレコード変更に対するターゲットを絞ったビルドを導入することで、DNS伝播遅延を50%削減し、メモリ使用量を85%削減しました。
NVIDIAは、分散GPUワークロードにおける根本原因を特定するために、ログ、メトリクス、スケジューラの状態を相関させるオープンソースシステムをリリースしました。
NVIDIAは、Kubernetes上の分散AIワークロードに対する共通の構造記述を提供するオープンソースツールをリリースしました。これにより、フレームワーク固有のアダプターが不要になります。
データベースの集計処理において、メモリレイテンシがCPUをどのように待たせるのか、そして基数分割(radix partitioning)によるキャッシュ効率化がパフォーマンスをどう向上させるかについて詳しく解説します。
A federal judge denied xAI's motion to dismiss a lawsuit alleging the company operated gas turbines at its Colossus data center without required air permits.
Nvidia is negotiating to guarantee billions in construction loans for Nscale, securing a major Anthropic contract amid growing investor skepticism about AI infrastructure costs.
Google has activated its first space data center prototype, running Gemma 4 on a TPU to test radiation effects and orbital inference capabilities.
CNCF Sandbox プロジェクトの OpenChoreo は、Internal Developer Platform 内で Kubernetes イベントの分散トレーシングと長期保存を提供するために、OpenTelemetry Collector を統合しました。
Oracle のエンジニアが、gVisor や Kata Containers などのランタイムを活用し、セキュリティとパフォーマンスのバランスを取りながら Kubernetes 上の自律型 AI エージェントを隔離する5層アーキテクチャについて解説します。
Volcano v1.16では、テナント分離のためのNamespaceQueue、履歴使用量追跡用のfairshareプラグイン、そして大規模バッチワークロード向けの性能最適化が導入されました。
Kubernetes コントロールプレーンには、インフォーマー、スキーマ集約、ライブネスプローブといった標準的なメカニズムを通じて局所的な欠陥がシステム全体の障害へと増幅される、隠れた障害経路が存在します。
NVIDIA CUDA 13.4は、GPU共有のための透過的なメモリ強制機能を導入しました。新しいGPU Fractioning OperatorとKAI Scheduler v0.18.0により、これらの機能がKubernetesクラスタに提供されます。
SpaceXはApollo Global Managementと400億ドル規模のファイナンス契約を結び、Nvidia GPUのリースを行うことを決定しました。これは現在までに発表された最大のコミットメント付きGPUファイナンス案件です。