Cloudflare Containers được tái kiến trúc cho các sandbox tác nhân AI theo yêu cầu

Cloudflare đã tái kiến trúc hoàn toàn nền tảng Containers nhằm đáp ứng tốt hơn nhu cầu năng động của các tác nhân AI. Được công bố vào ngày 30 tháng 9 năm 2026, bản cập nhật này giới thiệu một chính sách lập lịch mới cho phép mã ứng dụng chọn hình ảnh container và loại instance tại thời điểm chạy (runtime) thay vì lúc triển khai. Những thay đổi này nhằm loại bỏ độ trễ liên quan đến điều phối container truyền thống, cho phép các sandbox khởi động trong vòng chưa đầy một giây.

Điều gì đã xảy ra

Trước đây, Cloudflare Containers hoạt động tương tự như các quy trình triển khai ứng dụng truyền thống. Các nhà phát triển phải xác định hình ảnh container và tài nguyên tính toán trong quá trình build, đồng thời triển khai mỗi cấu hình như một ứng dụng riêng biệt. Mô hình này đòi hỏi các namespace Durable Object riêng cho từng sự kết hợp giữa hình ảnh và loại instance. Nếu một tác nhân cần cả môi trường Node.js nhẹ và môi trường build Python nặng, các nhà phát triển phải quản lý hai ứng dụng riêng biệt và tự định tuyến lưu lượng giữa chúng. Mỗi thay đổi đối với môi trường đều yêu cầu một chu kỳ triển khai mới, khiến việc thích ứng với nhu cầu tài nguyên không thể đoán trước của các tác nhân AI trở nên khó khăn.

Kiến trúc mới chuyển những quyết định này vào chính logic ứng dụng. Bằng cách giới thiệu chính sách lập lịch durable_object, Cloudflare cho phép mã chọn hình ảnh cụ thể và kích thước instance khi một tác vụ được gửi đến. Điều này có nghĩa là một lớp Durable Object duy nhất giờ đây có thể khởi động nhiều loại sandbox khác nhau song song. Ví dụ: một tác nhân có thể yêu cầu một môi trường nhẹ cho các truy vấn đơn giản và một môi trường build mạnh mẽ cho các tác vụ phức tạp mà không cần cung cấp trước. Sự thay đổi này biến cấu hình hạ tầng từ một sản phẩm tĩnh của quá trình triển khai thành mã động thực thi tại thời điểm nhận yêu cầu.

Bên cạnh sự linh hoạt này, Cloudflare cũng giải quyết vấn đề then chốt về độ trễ khởi động. Các tác nhân AI thường tạo sandbox theo yêu cầu cho từng tác vụ riêng lẻ, nghĩa là người dùng phải chờ môi trường khởi tạo trước khi bất kỳ công việc nào bắt đầu. Mô hình control plane toàn cục trước đây gây ra chi phí đáng kể do phải phân giải cấu hình và phối hợp vị trí đặt container trên toàn mạng. Hệ thống mới cục bộ hóa quy trình này, khởi động container trên cùng máy chủ với Durable Object điều khiển bất cứ khi nào có thể. Điều này giảm thời gian khởi động trung vị từ hơn bốn giây xuống còn 648 mili giây, một cải thiện hơn sáu lần được xác minh bởi các bài kiểm tra độc lập.

Cách thức hoạt động

Cơ chế cốt lõi mang lại tốc độ và sự linh hoạt này là tích hợp chặt chẽ giữa Containers và Durable Objects. Mỗi instance container được gắn với một Durable Object, đóng vai trò là bộ điều khiển bền vững và có thể lập trình. Trong mô hình mới, Durable Object không chỉ quản lý vòng đời; nó trực tiếp kiểm soát cấu hình của container thông qua API gốc ctx.container. Khi một yêu cầu đến, mã sẽ kiểm tra các yêu cầu của tác vụ và chọn một hình ảnh từ danh sách định sẵn trong tệp cấu hình. Sau đó, bộ lập lịch tìm kiếm dung lượng trên host cục bộ trước tiên, ưu tiên các máy đã có hình ảnh hoặc snapshot cần thiết trong bộ nhớ cục bộ để tránh độ trễ tải xuống.

Để giảm thêm thời gian khởi động, runtime không còn khởi động một máy ảo từ đầu cho mỗi yêu cầu. Thay vào đó, nó khôi phục một máy ảo đã chuẩn bị sẵn, vốn đã được khởi tạo nhưng chưa được gán. Cách tiếp cận này tái sử dụng các thiết lập mạng và hệ thống tệp, gộp các thao tác trước đây được thực hiện tuần tự. Ngoài ra, Cloudflare đã giới thiệu một hình ảnh hệ thống sẵn sàng sử dụng có tên cloudflare/debian-trixie. Hình ảnh cơ sở này bao gồm Debian Trixie Slim và Node.js 24.20.0 LTS, được phân phối trước trên các host. Các tác nhân có thể khởi động sandbox này ngay lập tức và sau đó sử dụng các lệnh thực thi để nhân bản kho lưu trữ hoặc cài đặt gói, bỏ qua nhu cầu xây dựng và đẩy các hình ảnh Docker tùy chỉnh cho các tác vụ đơn giản.

Chi tiết chính

• Cấu hình Runtime: Chính sách lập lịch durable_object mới cho phép mã chọn hình ảnh container và loại instance tại thời điểm chạy, loại bỏ nhu cầu triển khai riêng biệt cho mỗi loại môi trường.
• Hiệu suất Khởi động: Thời gian khởi động trung vị giảm từ 4,049 giây xuống còn 648 mili giây, với phân vị thứ 95 cải thiện từ 5,839 giây xuống còn 910 mili giây.
• Snapshot Hệ thống Tệp: Một tính năng beta công khai cho phép lưu và khôi phục hệ thống tệp của container, giúp các tác nhân tạm dừng và tiếp tục các tác vụ dài hạn mà không mất trạng thái hoặc lặp lại các bước thiết lập.
• Hình ảnh Cơ sở Đã Chuẩn bị: Hình ảnh cloudflare/debian-trixie được phân phối trước trên các host, cho phép các tác nhân khởi động môi trường Linux ngay lập tức mà không cần xây dựng hình ảnh tùy chỉnh.
• Dung lượng Bùng nổ: Các thử nghiệm sơ bộ cho thấy hệ thống có thể khởi động 100.000 container trong 5,387 giây trên sáu địa điểm, chứng minh khả năng mở rộng cao cho các khối lượng công việc bùng nổ.
• Kiểm soát Triển khai: Việc triển khai giờ đây được quản lý thông qua mã trong Durable Object, cho phép các chiến lược như phát hành canary hoặc ghim các dự án đang hoạt động vào các hình ảnh cụ thể mà không cần thay đổi cấu hình ở cấp nền tảng.

Tại sao điều này quan trọng

Đối với các kỹ sư xây dựng nền tảng tác nhân AI, bản cập nhật này loại bỏ một nút thắt cổ chai lớn trong trải nghiệm người dùng. Điều phối container truyền thống được thiết kế cho các dịch vụ chạy lâu dài, không phải cho các tác vụ ngắn hạn cần khởi động ngay lập tức. Bằng cách chuyển cấu hình sang thời điểm chạy, các nhà phát triển có thể xây dựng các hệ thống hiệu quả hơn, chỉ tiêu thụ tài nguyên khi cần thiết. Điều này đặc biệt quan trọng đối với các tác nhân lập trình, khung đánh giá và hệ thống học tăng cường, vốn yêu cầu hàng nghìn môi trường cô lập. Khả năng khởi động sandbox trong vòng chưa đầy một giây có nghĩa là người dùng dành ít thời gian chờ đợi môi trường được cung cấp hơn và dành nhiều thời gian tương tác với tác nhân hơn.

Việc giới thiệu snapshot hệ thống tệp cũng thay đổi cách quản lý trạng thái trong các môi trường serverless. Trước đây, việc bảo tồn công việc của một tác nhân đòi hỏi các giải pháp lưu trữ bên ngoài phức tạp hoặc giữ cho container chạy vô thời hạn, làm tăng chi phí. Bây giờ, một tác nhân có thể lưu không gian làm việc của mình, chấm dứt container và khôi phục nó sau đó đúng nơi nó đã dừng lại. Khả năng này hỗ trợ các quy trình làm việc bất đồng bộ và các tác vụ dài hạn có thể kéo dài nhiều ngày, giúp việc xây dựng các ứng dụng tác nhân tinh vi hơn trên hạ tầng serverless trở nên khả thi mà không cần quản lý các máy chủ bền vững.

Bạn có thể làm gì

• Cập nhật wrangler.jsonc của bạn để bao gồm chính sách lập lịch durable_object và khai báo các hình ảnh mà Durable Object của bạn có thể truy cập.
• Tái cấu trúc logic container hiện có để chọn hình ảnh và loại instance dựa trên các tham số tác vụ trong lớp Durable Object.
• Kiểm tra hình ảnh cơ sở cloudflare/debian-trixie cho các tác vụ không yêu cầu build Docker tùy chỉnh để tận dụng các tài nguyên đã được phân phối trước.
• Triển khai snapshot hệ thống tệp trong quy trình làm việc của bạn để lưu trạng thái tác nhân sau các cột mốc quan trọng và khôi phục nó khi tiếp tục.
• Sử dụng lưu trữ Durable Object để quản lý các chiến lược triển khai, chẳng hạn như ghim các ID cụ thể vào các hình ảnh cũ hơn trong thời gian di trú.
• Giám sát các chỉ số khởi động bằng API ctx.container mới để đảm bảo các tác nhân của bạn hưởng lợi từ những cải tiến lập lịch cục bộ.