Mô hình quỹ đạo chuẩn hóa cho phép tính chính xác likelihood trong khuếch tán ít bước

Các nhà nghiên cứu từ Apple, Đại học Pennsylvania và UIUC đã giới thiệu Mô hình Quỹ đạo Chuẩn hóa (NTM), một kiến trúc mới cho AI tạo sinh giúp đẩy nhanh quá trình tổng hợp ảnh. Công trình này được công bố vào ngày 8 tháng 10 năm 2026, giải quyết nút thắt về hiệu suất trong các mô hình khuếch tán bằng cách cho phép đầu ra có độ trung thực cao chỉ với bốn bước lấy mẫu. Khác với các phương pháp tạo ảnh nhanh trước đây, NTM duy trì khuôn khổ likelihood chính xác xuyên suốt quy trình.

Chuyện gì đã xảy ra

Các mô hình khuếch tán tiêu chuẩn tạo ảnh bằng cách đảo ngược quá trình thêm nhiễu thông qua nhiều bước khử nhiễu Gaussian nhỏ. Cách tiếp cận này tốn kém về mặt tính toán vì nó đòi hỏi hàng trăm lượt xử lý tuần tự để tạo ra kết quả mạch lạc. Khi các kỹ sư cố gắng tăng tốc suy luận bằng cách nén các bước này thành những chuyển đổi ít hơn và thô hơn, các giả định toán học nền tảng thường bị phá vỡ, dẫn đến chất lượng ảnh giảm hoặc xuất hiện các lỗi (artifacts).

Để giải quyết vấn đề này, nhóm nghiên cứu đã phát triển NTM, trong đó mỗi bước đảo ngược được coi là một dòng chảy chuẩn hóa điều kiện biểu cảm (expressive conditional normalizing flow). Điều này cho phép mô hình được huấn luyện với likelihood chính xác, bảo toàn sự chặt chẽ về xác suất vốn thường bị mất đi trong các phương pháp tăng tốc. Kiến trúc này kết hợp các khối nghịch đảo nông (shallow invertible blocks) bên trong từng bước với một bộ dự đoán song song sâu (deep parallel predictor) hoạt động trên toàn bộ quỹ đạo. Thiết kế này tạo ra một mạng lưới end-to-end có thể được huấn luyện từ đầu hoặc khởi tạo từ các mô hình khớp dòng chảy (flow-matching models) đã được tiền huấn luyện.

Hệ thống thu được đạt hiệu suất tương đương với các baseline mạnh mẽ trên các benchmark text-to-image nhưng chỉ yêu cầu bốn bước lấy mẫu. Một đặc điểm chính của phương pháp này là tự chưng cất (self-distillation), trong đó một bộ khử nhiễu nhẹ được huấn luyện dựa trên hàm score do chính mô hình tạo ra. Cơ chế này cho phép NTM tạo ra các mẫu chất lượng cao một cách nhanh chóng mà không làm mất đi các lợi ích lý thuyết của việc huấn luyện dựa trên likelihood.

Nó hoạt động như thế nào

Dòng chảy chuẩn hóa (Normalizing flows) là một lớp các mô hình tạo sinh biến đổi một phân phối xác suất đơn giản thành một phân phối phức tạp thông qua một chuỗi các hàm nghịch đảo. Trong NTM, mỗi bước của quỹ đạo tạo sinh được mô hình hóa như một dòng chảy như vậy. Vì các phép biến đổi này là nghịch đảo được, mô hình có thể tính toán likelihood chính xác của dữ liệu ở mọi giai đoạn. Điều này trái ngược với phương pháp chưng cất khuếch tán tiêu chuẩn hoặc huấn luyện đối kháng, vốn thường xấp xỉ hóa phân phối và mất đi khả năng tính toán xác suất chính xác.

Kiến trúc sử dụng cấu trúc kép để quản lý độ phức tạp và tốc độ. Các khối nghịch đảo nông xử lý các phép biến đổi cục bộ trong từng bước, đảm bảo rằng các tính chất toán học của dòng chảy được duy trì. Đồng thời, một bộ dự đoán song song sâu phân tích toàn bộ quỹ đạo, cho phép mô hình hiểu ngữ cảnh toàn cục của quá trình tạo sinh. Khả năng xử lý song song này rất quan trọng để giảm số lượng bước cần thiết từ hàng trăm xuống chỉ còn bốn.

Tự chưng cất (Self-distillation) càng nâng cao hiệu quả. Thay vì dựa vào các giáo viên bên ngoài hoặc các hàm mất mát đối kháng phức tạp, NTM sử dụng hàm score do chính nó tạo ra để huấn luyện một bộ khử nhiễu nhẹ hơn. Vòng lặp phản hồi nội bộ này tinh chỉnh quá trình tạo sinh, đảm bảo rằng đầu ra ít bước vẫn nhất quán với các phân phối chất lượng cao được học trong quá trình huấn luyện. Kết quả là một hệ thống cân bằng giữa tốc độ, chất lượng và tính vững chắc về mặt lý thuyết.

Chi tiết chính

• NTM giảm việc tạo ảnh xuống còn bốn bước lấy mẫu trong khi vẫn đáp ứng hoặc vượt trội so với các baseline mạnh mẽ.
• Mô hình giữ nguyên likelihood chính xác trên quỹ đạo tạo sinh, khác với hầu hết các phương pháp chưng cất ít bước.
• Kiến trúc kết hợp các khối nghịch đảo nông cho mỗi bước với một bộ dự đoán song song sâu trên toàn bộ quỹ đạo.
• Hỗ trợ huấn luyện từ đầu hoặc khởi tạo từ các mô hình khớp dòng chảy đã được tiền huấn luyện.
• Sử dụng tự chưng cất thông qua một bộ khử nhiễu nhẹ được huấn luyện trên hàm score do chính mô hình tạo ra.
• Nghiên cứu được thực hiện bởi các nhóm từ Apple, Đại học Pennsylvania và UIUC, công bố vào ngày 8 tháng 10 năm 2026.

Tại sao điều này quan trọng

Đối với các kỹ sư xây dựng ứng dụng tạo sinh, chi phí suy luận là một ràng buộc chính. Việc giảm số lượng bước lấy mẫu từ hàng trăm xuống bốn làm giảm đáng kể độ trễ và chi phí tính toán, khiến việc tạo ảnh theo thời gian thực trở nên khả thi hơn. Tuy nhiên, các nỗ lực trước đây nhằm tăng tốc khuếch tán thường đánh đổi chất lượng hoặc loại bỏ khả năng đo lường likelihood, vốn hữu ích cho các tác vụ như phát hiện bất thường và đánh giá mô hình. NTM mở ra một con đường hướng tới tốc độ mà không mất đi các khả năng phân tích này.

Việc giữ lại likelihood chính xác cũng mở ra những khả năng mới cho việc tối ưu hóa và gỡ lỗi mô hình. Các nhà phát triển có thể định lượng chính xác mức độ phù hợp của mô hình với dữ liệu, điều khó thực hiện với các phương pháp đối kháng hoặc xấp xỉ. Sự minh bạch này có thể dẫn đến các hệ thống robust hơn, đặc biệt là trong các lĩnh vực nơi độ tin cậy và khả năng diễn giải là yếu tố then chốt. Bằng cách kết hợp tốc độ của các mô hình đã chưng cất với sự chặt chẽ của dòng chảy chuẩn hóa, NTM đại diện cho một bước tiến quan trọng hướng tới AI tạo sinh hiệu quả và đáng tin cậy hơn.

Bạn có thể làm gì

• Xem xét kiến trúc NTM để hiểu cách các khối nghịch đảo có thể được tích hợp vào các pipeline khuếch tán hiện có.
• Thử nghiệm các kỹ thuật tự chưng cất sử dụng hàm score của chính mô hình của bạn để giảm số bước suy luận.
• Đánh giá xem việc tính toán likelihood chính xác có mang lại lợi ích cho trường hợp sử dụng cụ thể của bạn hay không, chẳng hạn như phát hiện ngoại lai (outlier detection).
• Cân nhắc khởi tạo các mô hình mới từ các checkpoint khớp dòng chảy đã được tiền huấn luyện để tận dụng kiến thức sẵn có.
• So sánh hiệu suất tạo ảnh bốn bước với baseline hiện tại của bạn để đánh giá tiềm năng cải thiện độ trễ.
• Khám phá các bộ dự đoán song song trong mô hình hóa quỹ đạo của bạn để nâng cao nhận thức về ngữ cảnh toàn cục trong quá trình tạo sinh.