Chủ đề · 75 bài viết

Cloud & hạ tầng

Kubernetes, GPU, DevOps, giám sát và giữ hệ thống production ổn định.

Cloud & hạ tầng

Khắc phục vấn đề lập lịch Kubernetes cho khối lượng công việc huấn luyện AI phân tán

Lập lịch mặc định của Kubernetes không đáp ứng được các tác vụ AI phân tán. Việc đặt vị trí nhận biết cấu trúc liên kết (topology-aware placement) và lập lịch nhóm (gang scheduling) thông qua Kueue và Coscheduling giúp giải quyết các vấn đề về độ trễ và đồng b