AI mở & chạy cục bộ

Moonshot ra mắt Kimi K3.1 Pro, mô hình mở với 2,8 nghìn tỷ tham số

Moonshot đã ra mắt Kimi K3.1 Pro, một mô hình hỗn hợp chuyên gia (mixture-of-experts) với 2,8 nghìn tỷ tham số, dự kiến công bố trọng số mở vào ngày 4 tháng 11 năm 2026.

Một khối kính với các mạch điện phát sáng tượng trưng cho kiến trúc mô hình Kimi.
Minh họa được tạo riêng cho bài viết này

Được dịch tự động từ bản gốc tiếng Anh.

Moonshot đã ra mắt Kimi K3.1 Pro, một mô hình đa phương thức theo kiến trúc hỗn hợp chuyên gia (mixture-of-experts), sở hữu tổng cộng 2,8 nghìn tỷ tham số và 104 tỷ tham số hoạt động. Công ty thông báo rằng trọng số của mô hình sẽ được phát hành dưới dạng trọng số mở vào ngày 4 tháng 11 năm 2026, đánh dấu một bước tiến quan trọng hướng tới cơ sở hạ tầng AI cấp độ tiên phong dễ tiếp cận hơn.

Điều gì đã xảy ra

Mô hình mới này đại diện cho sự nâng cấp đáng kể về quy mô và khả năng so với phiên bản tiền nhiệm, Kimi K3. Moonshot mô tả K3.1 Pro là phiên bản được huấn luyện hậu kỳ (post-trained) từ K3, sử dụng tài nguyên tính toán lớn hơn nhiều cho việc học tăng cường (reinforcement learning) trên hàng trăm lĩnh vực ứng dụng phía sau. Bản ra mắt bao gồm cả phiên bản API tiêu chuẩn và Highspeed, trong đó phiên bản Highspeed cung cấp tốc độ tạo đầu ra nhanh gấp hai đến ba lần nhưng với chi phí gấp đôi. Ngoài ra, Moonshot cũng giới thiệu Kimi Hosted Agents, một môi trường quản lý được thiết kế cho các tác vụ chạy dài hạn và sự cộng tác giữa nhiều agent.

Các đánh giá độc lập xếp K3.1 Pro vững chắc vào nhóm dẫn đầu trong số các mô hình hiện tại. Artificial Analysis xếp hạng nó ở vị trí thứ tư trên Chỉ số Trí tuệ (Intelligence Index) với điểm số 55, chỉ đứng sau Opus 5.5, Sonnet 5.5 và Muse Wonder Full. Trong các bài kiểm tra mã hóa, nó đạt vị trí thứ tám trong danh mục Code Arena WebDev, cải thiện đáng kể so với thứ hạng trước đó. Đáng chú ý, mặc dù Moonshot chủ động loại bỏ dữ liệu huấn luyện liên quan đến an ninh mạng để nâng cao tính an toàn, mô hình vẫn đạt điểm số cao nhất có thể truy cập công khai trên Cyber Index, chỉ đứng sau các mô hình độc quyền yêu cầu quyền truy cập tin cậy.

Việc phát hành đã gây ra tranh luận về kinh tế suy luận (inference economics) và tính minh bạch của benchmark. Mặc dù giá token đã giảm một phần ba so với K3, một số thử nghiệm độc lập cho thấy mức tiêu thụ token cao hơn cho mỗi tác vụ có thể bù trừ những khoản tiết kiệm này. Phản ứng từ cộng đồng khá trái chiều, với sự hào hứng dành cho lời hứa về trọng số mở bị lu mờ bởi lo ngại về chi phí triển khai và cáo buộc về các hoạt động quảng bá không được tiết lộ. Các làm rõ đã xuất hiện liên quan đến dòng thời gian, xác nhận việc phát hành trọng số vào ngày 4 tháng 11 thay vì các tin đồn sớm hơn trước đó.

Cách thức hoạt động

Kimi K3.1 Pro sử dụng kiến trúc hỗn hợp chuyên gia, cho phép kích hoạt chỉ một tập hợp con các tham số cho bất kỳ đầu vào nào. Cụ thể, trong khi mô hình chứa tổng cộng 2,8 nghìn tỷ tham số, chỉ có 104 tỷ tham số hoạt động trong quá trình suy luận. Thiết kế này nhằm cân bằng giữa dung lượng cao và hiệu quả tính toán, mặc dù nó đòi hỏi cơ sở hạ tầng đáng kể để quản lý pool chuyên gia lớn và trạng thái runtime. Việc triển khai mô hình như vậy cục bộ trên các thiết bị tiêu dùng là không khả thi, vì bộ tham số đầy đủ sẽ yêu cầu hàng terabyte bộ nhớ ngay cả khi đã được lượng tử hóa.

Những cải thiện về hiệu suất chủ yếu bắt nguồn từ việc học tăng cường hậu kỳ sâu rộng. Moonshot đã tối ưu hóa toàn bộ stack của mình, bao gồm khung RL, suy luận ngữ cảnh dài và cơ sở hạ tầng sandbox, để đảm bảo lợi ích ổn định từ việc tăng cường tài nguyên tính toán. Một quyết định kiến trúc then chốt liên quan đến việc loại bỏ dữ liệu liên quan đến an ninh mạng khỏi các giai đoạn huấn luyện trung gian và học tăng cường. Cách tiếp cận này nhằm giảm thiểu các khả năng tấn công tiềm ẩn ngay từ nguồn gốc thay vì chỉ dựa vào việc từ chối trong quá trình suy luận, dẫn đến sự sụt giảm được báo cáo về điểm số an ninh mạng nội bộ trong khi vẫn duy trì hiệu suất mạnh mẽ trên các benchmark phòng thủ.

Chi tiết chính

  • Thông số mô hình: Tổng cộng 2,8 nghìn tỷ tham số, 104 tỷ tham số hoạt động và cửa sổ ngữ cảnh 1 triệu token.
  • Trọng số mở: Dự kiến phát hành vào ngày 4 tháng 11 năm 2026, mặc dù các điều khoản giấy phép cụ thể và điều kiện phân phối lại vẫn chưa được nêu rõ.
  • Hiệu suất: Xếp thứ tư trên Chỉ số Trí tuệ của Artificial Analysis với điểm số 55; xếp thứ tám trong Code Arena WebDev.
  • Giá cả: API tiêu chuẩn có giá $2 cho mỗi triệu token đầu vào và $10 cho mỗi triệu token đầu ra, giảm một phần ba so với K3.
  • An toàn: Dữ liệu huấn luyện liên quan đến an ninh mạng đã bị loại bỏ, tuy nhiên mô hình vẫn đạt 64% trên Cyber Index công khai, mức cao nhất đối với một mô hình có thể truy cập.
  • Tốc độ: Biến thể API Highspeed cung cấp tốc độ tạo đầu ra nhanh gấp 2–3 lần nhưng chi phí gấp đôi so với gói tiêu chuẩn.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm và nhà sáng lập kỹ thuật, sự xuất hiện của một mô hình trọng số mở gần đạt cấp độ tiên phong thay đổi cách tính toán khi xây dựng các sản phẩm thuần AI. Lời hứa về trọng số mở cho phép kiểm soát tốt hơn việc triển khai, tinh chỉnh (fine-tuning) và quyền riêng tư dữ liệu, điều rất quan trọng đối với các ứng dụng doanh nghiệp. Tuy nhiên, sự khác biệt giữa khả năng tự lưu trữ (self-hostable) và chạy cục bộ trên thiết bị người dùng là rất quan trọng. Kích thước khổng lồ của mô hình có nghĩa là việc chạy nó đòi hỏi cơ sở hạ tầng bộ tăng tốc đáng kể, khiến nó phù hợp với môi trường đám mây hoặc máy chủ chuyên dụng hơn là các thiết bị biên (edge devices).

Cấu trúc giá cả cũng đòi hỏi sự phân tích cẩn thận. Mặc dù chi phí mỗi token đã giảm, xu hướng của mô hình tạo ra nhiều token hơn cho mỗi tác vụ có thể dẫn đến tổng chi phí tương đương hoặc cao hơn cho các quy trình làm việc phức tạp. Các nhà phát triển phải đánh giá chi phí cho mỗi tác vụ thành công chứ không chỉ dựa trên tỷ lệ giá mỗi token. Hơn nữa, hiệu suất mạnh mẽ của mô hình trong các tác vụ agent và mã hóa gợi ý rằng nó có thể đẩy nhanh chu kỳ phát triển, đặc biệt là đối với các dự án liên quan đến hiểu biết ngữ cảnh dài hoặc suy luận nhiều bước.

Bạn có thể làm gì

  • Theo dõi ngày phát hành 4 tháng 11 năm 2026 cho các trọng số mở và xem xét các điều khoản giấy phép về hạn chế sử dụng thương mại.
  • Benchmark khối lượng công việc hiện tại của bạn với K3.1 Pro bằng cách sử dụng API Highspeed để đánh giá xem phí premium cho tốc độ có xứng đáng với chi phí cho các yêu cầu độ trễ cụ thể của bạn hay không.
  • Đánh giá khả năng xử lý ngữ cảnh dài của mô hình cho các dự án yêu cầu hiểu biết mã nguồn toàn bộ dự án hoặc phân tích tài liệu mở rộng.
  • Xem xét các hàm ý của cách tiếp cận an toàn mạng đối với tư thế bảo mật của bạn, lưu ý rằng điểm số phòng thủ cao không đảm bảo khả năng tấn công không giới hạn.
  • Kiểm tra mô hình trong lĩnh vực cụ thể của bạn, chẳng hạn như mô hình hóa 3D hoặc phân tích tài chính, để xác minh các tuyên bố của nhà cung cấp so với tiêu chuẩn chất lượng của riêng bạn.
  • Lên kế hoạch nâng cấp cơ sở hạ tầng nếu bạn có ý định tự lưu trữ, tính toán các yêu cầu bộ nhớ khổng lồ của mô hình 2,8 nghìn tỷ tham số.
  • #kimi
  • #open-weights
  • #llm
  • #moonshot
  • #ai-benchmarks

Công cụ từ cửa hàng Bytechap

$89

DocBento

Hệ thống quản lý tài liệu tự host, có khả năng đọc mọi bản quét và trả lời kèm trích dẫn trang cụ thể.

Demo trực tiếp

Đọc tiếp

Tất cả bài viết