Triển khai mô hình video và âm thanh nén 13.7B trên GPU người dùng phổ thông

Video Rebirth đã phát hành HyperFlow H3 Flash, phiên bản nén của mô hình MiniMax-H3 được thiết kế cho việc tạo đồng thời video và âm thanh. Được công bố vào ngày 7 tháng 11 năm 2026, bản phát hành này cho phép các nhà phát triển chạy các mô hình với 13,7 tỷ tham số trên GPU cấp người dùng phổ thông bằng cách áp dụng kỹ thuật cắt tỉa cấu trúc (structural pruning) mạnh mẽ và lượng tử hóa INT8. Dự án cung cấp cả gói Python để tích hợp trực tiếp và hỗ trợ định dạng GGUF để sử dụng trong các công cụ như ComfyUI.

Chuyện gì đã xảy ra

Bản phát hành giới thiệu hai biến thể mô hình chính: một dành cho chuyển đổi từ văn bản sang video và âm thanh (t2va), và một dành cho tạo nội dung dựa trên tham chiếu (ref2va). Các mô hình này được phát triển từ kiến trúc gốc MiniMax-H3 nhưng đã được giảm đáng kể về kích thước và nhu cầu tính toán. Biến thể t2va chứa 13,7 tỷ tham số, trong khi biến thể ref2va chứa 13,9 tỷ. Cả hai đều có sẵn dưới định dạng INT8 cho máy chủ hiệu suất cao và định dạng GGUF cho khả năng tương thích rộng hơn với phần cứng người dùng phổ thông.

Đội ngũ kỹ sư đứng sau Video Rebirth tập trung vào việc làm cho các mô hình lớn này dễ tiếp cận mà không cần cơ sở hạ tầng trung tâm dữ liệu. Họ đạt được điều này bằng cách loại bỏ các khối transformer cụ thể và áp dụng phân tách hạng thấp (low-rank factorization) cho các lớp tuyến tính. Bản phát hành bao gồm các bài kiểm tra chuẩn (benchmark) chi tiết cho thấy hiệu suất trên nhiều loại GPU NVIDIA khác nhau, từ RTX 3090 đến các card trung tâm dữ liệu mới nhất như H200 và B200. Nó cũng cung cấp giao diện dòng lệnh và API Python để tích hợp liền mạch vào các quy trình hiện có.

Cách thức hoạt động

HyperFlow H3 Flash giảm tải tính toán thông qua ba kỹ thuật chính. Thứ nhất, nó sử dụng phương pháp cắt tỉa cấu trúc, loại bỏ ba trong số năm mươi khối transformer trong mô hình t2va và một khối trong mô hình ref2va. Thứ hai, nó áp dụng phân tách hạng thấp cho hơn một trăm lớp tuyến tính, giúp giảm thêm số lượng tham số. Thứ ba, nó sử dụng lượng tử hóa W8A8 INT8 xoay vòng (rotated), nén trọng số và kích hoạt (activations) trong khi vẫn duy trì độ chính xác thông qua phép quay Hadamard chéo khối (block-diagonal Hadamard rotation).

Để quản lý ràng buộc bộ nhớ trên các GPU nhỏ hơn, hệ thống hỗ trợ nhiều chế độ offload. Trong chế độ "stream", chỉ VAE đang hoạt động và một khối transformer hoặc một lớp mã hóa văn bản nằm trong VRAM tại bất kỳ thời điểm nào, cho phép mô hình chạy trên các card có dung lượng bộ nhớ tối thiểu là 24 GB. Chế độ này chỉ chậm hơn khoảng 2% so với việc giữ tất cả các thành phần trong VRAM. Ngoài ra, mô hình sử dụng cơ chế điều kiện hóa kép (two-time conditioning), trong đó mỗi token nhận thông tin về cả mức nhiễu hiện tại và điểm kết thúc bước lặp, cho phép tạo nội dung chất lượng cao chỉ trong bốn đến tám bước lấy mẫu.

Chi tiết quan trọng

• Kích thước mô hình: Mô hình t2va có 13,7 tỷ tham số, và mô hình ref2va có 13,9 tỷ tham số sau khi cắt tỉa và phân tách.
• Số bước lấy mẫu: Người dùng có thể chọn giữa 4 bước để tăng tốc độ, 6 bước để cân bằng, hoặc 8 bước để đạt chất lượng tốt nhất, với lưới sigma được cung cấp trong module lịch trình (schedule).
• Tối ưu hóa bộ nhớ: Chế độ offload "stream" cho phép chạy các clip tham chiếu hỗn hợp dài 15 giây trên GPU có VRAM 24 GB bằng cách giới hạn bộ nhớ kích hoạt thông qua kỹ thuật chia nhỏ khối (block chunking).
• Hiệu quả của bộ mã hóa văn bản: Sử dụng độ chính xác FP8 cho bộ mã hóa văn bản Qwen3-VL tiết kiệm khoảng 22 GiB RAM hệ thống khi thực hiện offload, yêu cầu cài đặt thêm gói fp8.
• Hỗ trợ đa GPU: Quy trình hỗ trợ song song ngữ cảnh Ulysses, chia nhỏ các chuỗi transformer lên tới tám GPU để suy luận nhanh hơn và giảm mức sử dụng bộ nhớ trên mỗi GPU.
• Hạn chế giấy phép: Trọng số mô hình được phân phối theo Thỏa thuận Giấy phép Cộng đồng MiniMax H3, hạn chế sử dụng tại EU, Vương quốc Anh, Hàn Quốc và Mỹ nếu không có sự ủy quyền.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm và nhà sáng lập kỹ thuật, bản phát hành này hạ thấp rào cản gia nhập cho việc tạo video và âm thanh chất lượng cao. Trước đây, việc chạy các mô hình ở quy mô này đòi hỏi GPU trung tâm dữ liệu đắt tiền với hàng trăm gigabyte VRAM. Bằng cách tối ưu hóa cho phần cứng người dùng phổ thông, Video Rebirth cho phép phát triển và triển khai cục bộ trên các máy trạm được trang bị card RTX 4090 hoặc thậm chí là RTX 3090. Sự thay đổi này cho phép thử nghiệm lặp lại nhiều hơn và giảm sự phụ thuộc vào các dịch vụ suy luận đám mây, vốn có thể tốn kém và gây ra độ trễ.

Việc có sẵn các định dạng GGUF cũng tích hợp những mô hình này vào hệ sinh thái mã nguồn mở rộng lớn hơn, đặc biệt là trong ComfyUI. Khả năng tương thích này có nghĩa là các nhà phát triển có thể tận dụng các quy trình làm việc hiện có và nút cộng đồng (community nodes) thay vì phải xây dựng các engine suy luận tùy chỉnh từ đầu. Các bài kiểm tra chuẩn chi tiết được cung cấp giúp các đội ngũ đưa ra quyết định sáng suốt về phân bổ phần cứng, cân bằng giữa tốc độ tạo nội dung và ràng buộc bộ nhớ dựa trên yêu cầu sản xuất cụ thể của họ.

Những gì bạn có thể làm

• Cài đặt gói Python bằng cách sử dụng make install để thiết lập môi trường ảo và các phụ thuộc cho việc thực thi runtime INT8.
• Sử dụng cờ --offload stream khi chạy trên GPU có ít hơn 60 GB VRAM để quản lý hiệu quả mức sử dụng bộ nhớ mà không làm giảm tốc độ đáng kể.
• Bật độ chính xác FP8 cho bộ mã hóa văn bản bằng cách cài đặt gói [fp8] nếu phần cứng của bạn hỗ trợ, giúp tiết kiệm đáng kể RAM hệ thống trong quá trình offload.
• Chạy các bài kiểm tra chuẩn với examples/benchmark.py để đo thời gian từng giai đoạn của quy trình end-to-end và mức sử dụng bộ nhớ đỉnh trên cấu hình phần cứng cụ thể của bạn.
• Đối với thiết lập đa GPU, khởi chạy quy trình bằng torchrun và khởi tạo nhóm tiến trình để phân tán việc thực thi trên các thiết bị khả dụng.
• Xem xét kỹ các điều khoản giấy phép, đặc biệt nếu bạn đang hoạt động tại các khu vực bị hạn chế, để đảm bảo tuân thủ Thỏa thuận Giấy phép Cộng đồng MiniMax H3.