“gateway api” の検索結果

Kubernetes、LLM推論ルーティング向けのGateway API拡張機能を導入

Kubernetesプロジェクトは、生成AIワークロードのルーティングを標準化し、レイテンシの削減とGPU利用率の向上を実現する「Gateway API Inference Extension」をリリースしました。