Xây dựng với AI

Google ra mắt Gemini Decisions API cho các lựa chọn AI nhanh, không cần tạo văn bản

Google đã phát hành Gemini Decisions API vào ngày 12 tháng 11 năm 2026, cho phép đánh giá các tùy chọn trong tập hợp đóng lên đến 1.000 mục với độ trễ thấp và chi phí thấp mà không cần tạo ra văn bản.

Một lăng kính thủy tinh tách ánh sáng thành các đường đi riêng biệt trên bảng mạch.
Minh họa được tạo riêng cho bài viết này

Được dịch tự động từ bản gốc tiếng Anh.

Vào ngày 12 tháng 11 năm 2026, Google đã giới thiệu Gemini Decisions API, một công cụ chuyên dụng được thiết kế để xử lý các lựa chọn logic thường xuyên trong các ứng dụng AI mà không cần tạo ra ngôn ngữ tự nhiên. Dịch vụ mới này, vận hành bởi mô hình Gemini Decision 1, nhằm mục đích giảm độ trễ và chi phí cho các nhà phát triển cần kết quả nhanh chóng, xác định rõ ràng thay vì những đoạn văn sáng tạo.

Điều gì đã xảy ra

Gemini Decisions API cho phép các hệ thống phần mềm đánh giá các tùy chọn được định nghĩa trước trong một lần xử lý duy nhất, bỏ qua chi phí tính toán của các mô hình sinh truyền thống. Thay vì tạo ra một câu hoặc một đoạn văn, mô hình chấm điểm tối đa 1.000 lựa chọn trong tập hợp đóng dựa trên đầu vào được cung cấp. Google tuyên bố rằng thời gian phản hồi cho các khối lượng công việc đã thử nghiệm dao động từ 150 đến 250 mili giây, nhanh hơn đáng kể so với các tương tác chuẩn của mô hình ngôn ngữ lớn (LLM). Cấu trúc giá cả được thiết kế để ưu tiên cho việc ra quyết định với khối lượng lớn, bắt đầu từ $0.10 cho mỗi triệu token đầu vào và không tính phí cho token đầu ra.

Việc phát hành này đặt Google vào thế cạnh tranh trực tiếp với các gã khổng lồ công nghệ khác đang chuyển hướng sang các mô hình ra quyết định chuyên dụng. OpenAI đã ra mắt Decisions API của riêng mình chỉ vài tuần trước đó, trong khi các công ty như TypeSafe AI và Microsoft cũng đang phát triển các công cụ tương tự. Sự dịch chuyển thị trường phản ánh nhận thức ngày càng tăng rằng nhiều nhiệm vụ AI không yêu cầu khả năng sinh nội dung. CEO của Google, Sundar Pichai, mô tả mô hình này là “được xây dựng cho các lựa chọn trong tập hợp đóng”, nhấn mạnh vai trò của nó trong việc xử lý các quyết định có phạm vi hạn chế, cụ thể thay vì tạo nội dung mở.

Google đã triển khai công nghệ này nội bộ. Trong Gemini Notebook, mô hình xử lý định tuyến thời gian thực cho các mô hình và mức độ suy luận, được báo cáo là giúp giảm độ trễ tới 40%. Ngoài ra, Google Search sử dụng hệ thống này để phát hiện các hành vi có thể gây hại liên quan đến các công cụ Model Context Protocol (MCP). Các trường hợp sử dụng nội bộ này chứng minh khả năng của mô hình trong việc xử lý các tác vụ tần suất cao, độ trễ thấp vốn sẽ kém hiệu quả hoặc tốn kém nếu sử dụng các mô hình sinh đa năng.

Cách hoạt động

Cơ chế cốt lõi của Gemini Decisions API là khả năng xử lý một ngữ cảnh chung một lần, sau đó đánh giá nhiều câu hỏi độc lập dựa trên ngữ cảnh đó. Mô hình hỗ trợ cửa sổ ngữ cảnh 256.000 token và có thể xử lý nội dung đa phương tiện. Nhà phát triển định nghĩa một tập hợp các câu trả lời hoặc hành động có thể, và mô hình gán xác suất cùng điểm tin cậy cho từng lựa chọn. Cách tiếp cận này loại bỏ nhu cầu mô hình phải tạo văn bản theo từng token, vốn là nguồn gốc chính gây ra độ trễ và chi phí trong các LLM truyền thống.

Vì API đánh giá từng câu hỏi riêng biệt, nó phù hợp nhất cho các tác vụ có thể song song hóa, nơi một quyết định không phụ thuộc vào kết quả của quyết định khác trong cùng một lần gọi. Nếu một quy trình làm việc yêu cầu logic tuần tự—trong đó câu trả lời A xác định câu hỏi B—nhà phát triển phải thực hiện các lần gọi API riêng biệt. Tuy nhiên, cấu trúc chi phí được tối ưu hóa cho việc xử lý theo lô: nhà phát triển chỉ trả tiền một lần để gửi ngữ cảnh chung, ngay cả khi họ đặt hàng trăm câu hỏi về nó. Bản thân các câu hỏi vẫn tính vào mức sử dụng token, nhưng việc loại bỏ chi phí token đầu ra khiến việc chấm điểm khối lượng lớn trở nên khả thi về mặt kinh tế.

Chi tiết chính

  • Tên mô hình: Gemini Decision 1, được thiết kế đặc biệt cho các lựa chọn trong tập hợp đóng.
  • Hiệu suất: Thời gian phản hồi từ 150 đến 250 mili giây cho các khối lượng công việc đã thử nghiệm.
  • Khả năng: Hỗ trợ cửa sổ ngữ cảnh 256.000 token và tối đa 1.000 câu hỏi độc lập mỗi lần đầu vào.
  • Giá cả: Bắt đầu từ $0.10 cho mỗi triệu token đầu vào; không tính phí cho token đầu ra.
  • Tiêu chuẩn đánh giá (Benchmark): Google tuyên bố đạt điểm 92.2% trên JevBench, so với 90.9% của GPT-6 Luna từ OpenAI và 90% của Jev 1.14 từ TypeSafe.
  • Tính sẵn có: Có thể truy cập qua Google AI Studio với gói nguyên mẫu miễn phí, và thông qua các tích hợp như OpenRouter, LangChain, Vercel và LiteLLM.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm xây dựng các agent AI hoặc quy trình làm việc tự động, Gemini Decisions API cung cấp cách tách rời suy luận khỏi quá trình tạo nội dung. Nhiều ứng dụng dành đáng kể tài nguyên để tạo văn bản chỉ để phân tích lại thành một quyết định có cấu trúc. Bằng cách bỏ qua bước tạo nội dung, nhà phát triển có thể đạt được độ trễ thấp hơn và chi phí dự đoán được. Điều này đặc biệt có giá trị đối với các ứng dụng thời gian thực, chẳng hạn như phát hiện gian lận, định tuyến động hoặc giao diện người dùng tương tác, nơi mà độ trễ chỉ vài trăm mili giây cũng có thể làm giảm trải nghiệm người dùng.

Bối cảnh cạnh tranh cho cơ sở hạ tầng AI đang chuyển dịch từ chatbot đa năng sang các nguyên thủy chuyên dụng. Như được ghi nhận trong các tiêu chuẩn đánh giá, mặc dù mô hình của Google đạt điểm cao hơn về độ chính xác tổng thể, Jev 1.14 của TypeSafe lại rẻ hơn để chạy toàn bộ bộ benchmark ($0.68 so với $0.88). Điều này gợi ý rằng các nhà phát triển sẽ cần đánh giá cẩn thận sự đánh đổi giữa độ chính xác, lỗi hiệu chỉnh và chi phí dựa trên các trường hợp sử dụng cụ thể của họ. Việc tất cả các con số benchmark đều đến từ thử nghiệm của Google có nghĩa là sự xác thực độc lập trong môi trường sản xuất sẽ rất quan trọng đối với các đội ngũ đưa ra quyết định kiến trúc dài hạn.

Bạn có thể làm gì

  • Kiểm tra các quy trình làm việc AI hiện tại của bạn để xác định các bước liên quan đến phân loại đơn giản hoặc lựa chọn từ một danh sách cố định các tùy chọn.
  • Thử nghiệm với gói miễn phí trong Google AI Studio để kiểm tra cách Gemini Decision 1 xử lý các câu hỏi trong tập hợp đóng cụ thể của bạn.
  • So sánh độ trễ và chi phí với thiết lập mô hình sinh hiện có của bạn, chú ý đến khoản tiết kiệm từ việc loại bỏ token đầu ra.
  • Đánh giá các tùy chọn tích hợp như LangChain hoặc LiteLLM để xem API dễ dàng phù hợp với stack hiện tại của bạn như thế nào.
  • Theo dõi lỗi hiệu chỉnh trong các bài kiểm tra của bạn, vì Google nhấn mạnh lỗi hiệu chỉnh thấp là một điểm mạnh chính của Gemini Decision 1.
  • Lên kế hoạch cho logic tuần tự bằng cách thiết kế kiến trúc của bạn để xử lý các lần gọi API riêng biệt khi các quyết định phụ thuộc vào kết quả trước đó.
  • #google
  • #gemini
  • #api
  • #ai infrastructure
  • #llm

Công cụ từ cửa hàng Bytechap

$89

DocBento

Hệ thống quản lý tài liệu tự host, có khả năng đọc mọi bản quét và trả lời kèm trích dẫn trang cụ thể.

Demo trực tiếp

Đọc tiếp

Tất cả bài viết