Chủ đề · 147 bài viết

Xây dựng với AI

RAG, đánh giá mô hình, suy luận, tinh chỉnh và đưa tính năng LLM vào production.

Xây dựng với AI

Phát hiện lỗi GPU âm thầm trong quá trình huấn luyện LLM quy mô lớn trên SageMaker

Amazon chi tiết hóa một phương pháp phát hiện hỏng hóc dữ liệu âm thầm (silent data corruption) trên SageMaker HyperPod bằng cách bổ sung ba bước kiểm tra vào vòng lặp huấn luyện PyTorch, giúp ngăn chặn việc lãng phí tài nguyên tính toán do phần cứng bị lỗi.

Xây dựng với AI

Chế độ đọc chính tả ngoại tuyến sử dụng cây văn bản trên màn hình để tăng độ chính xác mà không cần LLM

Một quy trình mới cải thiện độ chính xác của chuyển đổi giọng nói thành văn bản bằng cách đọc các cây trợ năng trên màn hình và điều chỉnh mô hình Parakeet đã đóng băng, tránh sử dụng các LLM nặng nề hoặc tinh chỉnh.