Cập nhật hàng ngày về AI, công cụ lập trình và hạ tầng. Mỗi bài viết giải thích chuyện gì đã xảy ra và tại sao nó quan trọng, kèm link đến nguồn gốc.
Các kỹ sư của Meta đã xây dựng một hệ thống khai thác năng lực suy luận (inference) bị phân mảnh và nhàn rỗi để xếp hạng nhiều quảng cáo hơn và phục vụ các mô hình tốt hơn mà không ảnh hưởng đến độ trễ cơ bản.
Các AI agent tạo ra lưu lượng truy cập bùng nổ và có trạng thái, làm hỏng các API đơn khối (monolithic). Các kỹ sư có thể khắc phục điều này bằng cách tách biệt phần tính toán khỏi dữ liệu thông qua các vách ngăn (bulkheads) và cơ sở dữ liệu dùng chung.
Kubernetes v1.34 đã đạt trạng thái General Availability (GA) cho tính năng hoán đổi bộ nhớ trên node, cho phép các cụm sử dụng ổ cứng SSD NVMe tốc độ cao để đưa các trang bộ nhớ nhàn rỗi ra đĩa, từ đó tăng đáng kể mật độ pod cho các khối lượng công việc AI.
Cloudflare giới thiệu Workers KV Instant, một chế độ mới được hỗ trợ bởi Quicksilver, mang lại tốc độ đọc nhanh gấp 100 lần và khả năng nhân bản toàn cầu tức thì cho dữ liệu cấu hình.
Google đã ra mắt Gemini 4 Argon, một mô hình chủ lực mới vượt trội hơn các đối thủ trong các tác vụ tri thức và suy luận ngữ cảnh dài, mặc dù kết quả mã hóa không đồng nhất và khả năng tiếp cận vẫn còn bị giới hạn.
Kubernetes thiếu hỗ trợ gốc cho các lỗi thiết bị một phần, buộc các kỹ sư phải xây dựng logic khắc phục tùy chỉnh cho các tác vụ huấn luyện AI và ML tốn kém.
