OpenAI launches Decisions API for fast classification and routing
OpenAI released the Decisions API in public beta, offering typed answers like probabilities and choices from images or text using the gpt-6-luna model.
Kết quả cho “routing”
Cập nhật hàng ngày về AI, công cụ lập trình và hạ tầng. Mỗi bài viết giải thích chuyện gì đã xảy ra và tại sao nó quan trọng, kèm link đến nguồn gốc.
Anthropic chuyển hướng các yêu cầu an ninh mạng rủi ro cao từ Sonnet 5.5 sang các mô hình cũ hơn
Mô hình Sonnet 5.5 mới của Anthropic sử dụng định tuyến dựa trên bộ phân loại để chuyển về Sonnet 5 cho các tác vụ an ninh mạng rủi ro cao, yêu cầu nhà phát triển API phải chủ động bật tính năng này.
Kubernetes giới thiệu phần mở rộng Gateway API cho định tuyến suy luận LLM
Dự án Kubernetes đã phát hành Phần mở rộng Suy luận của Gateway API nhằm chuẩn hóa việc định tuyến cho các khối lượng công việc AI tạo sinh, giúp giảm độ trễ và cải thiện hiệu suất sử dụng GPU.
