OpenAI launches Decisions API for fast classification and routing
OpenAI released the Decisions API in public beta, offering typed answers like probabilities and choices from images or text using the gpt-6-luna model.
“routing” の検索結果
AI、開発者向けツール、インフラのデイリーカバー。各記事では、何が起こり、なぜ重要なのかを解説し、元の出典へのリンクを提供します。
Anthropic、Sonnet 5.5からの高リスクなサイバー関連リクエストを旧モデルへルーティング
Anthropicの新しいSonnet 5.5モデルは、分類器によるルーティングを用いて、高リスクなサイバーセキュリティタスクではSonnet 5へフォールバックします。API開発者にはオプトインが必要です。
Kubernetes、LLM推論ルーティング向けのGateway API拡張機能を導入
Kubernetesプロジェクトは、生成AIワークロードのルーティングを標準化し、レイテンシの削減とGPU利用率の向上を実現する「Gateway API Inference Extension」をリリースしました。
