Hugging Face ra mắt LFM3, dòng mô hình đa phương thức 2 tỷ tham số dành cho thiết bị biên

Hugging Face vừa phát hành LFM3, một bộ sưu tập mới gồm các mô hình nền tảng mã nguồn mở (open-weight) được thiết kế đặc biệt cho trí tuệ chuyên dụng trên các thiết bị biên. Được công bố vào cuối tháng 10 năm 2026, thế hệ thứ ba của các Mô hình Nền tảng Liquid (Liquid Foundation Models) này tích hợp khả năng xử lý văn bản, thị giác, âm thanh và ra quyết định vào một kiến trúc lõi chung với quy mô khoảng 2 tỷ tham số. Bản phát hành nhắm đến các nhà phát triển cần chạy AI hiệu quả cục bộ trên phần cứng từ điện thoại thông minh đến Raspberry Pi mà không phụ thuộc vào hạ tầng đám mây.

Diễn biến chính

Trọng tâm của bản phát hành này là LFM3-1.7B-Base, một mô hình đóng vai trò là điểm khởi đầu cho sáu biến thể chuyên biệt. Khác với các phiên bản trước vốn đòi hỏi số lượng tham số lớn hơn để đạt hiệu suất cạnh tranh, LFM3-1.7B vượt trội so với người tiền nhiệm LFM2.5-2.6B trong khi sử dụng ít hơn 35% tham số. Lợi ích về hiệu quả này cho phép mỗi mô hình chuyên biệt theo từng phương thức vẫn đủ nhỏ gọn để tinh chỉnh (fine-tuning) trên một GPU đơn lẻ và triển khai cục bộ. Dòng sản phẩm bao gồm các mô hình chuyên dụng cho văn bản, thị giác, âm thanh và một biến thể đa phương thức toàn diện (omni-modal), cùng với hai mô hình tập trung vào ra quyết định được hiệu chỉnh cho các đầu ra cụ thể.

Một sự thay đổi đáng kể trong thế hệ này là phương pháp huấn luyện thống nhất. Cả sáu mô hình đều tách ra từ cùng một mô hình gốc 1,7 tỷ tham số, vốn đã được tiền huấn luyện trên 22 nghìn tỷ token. Giai đoạn cuối cùng của quá trình huấn luyện liên quan đến 3,5 nghìn tỷ token được chọn lọc kỹ lưỡng, với trọng tâm lớn vào các dấu vết tác nhân (agentic traces) và lệnh gọi công cụ (tool calls). Sự chuẩn bị này mở rộng cửa sổ ngữ cảnh lên tới 256.000 token, cho phép thực hiện các tác vụ phức tạp, dài hạn hoàn toàn trên thiết bị. Kết quả là một hệ sinh thái nơi các nhà phát triển có thể chọn mô hình phù hợp với loại dữ liệu đầu vào, tùy chỉnh bằng dữ liệu độc quyền và triển khai trực tiếp tại nơi ứng dụng hoạt động.

Cơ chế hoạt động

LFM3 đạt được hiệu suất nhờ kiến trúc lai ba thành phần (tri-hybrid architecture) được khám phá thông qua tìm kiếm vòng lặp phần cứng (hardware-in-the-loop search) trên 14 tổ hợp thiết bị và backend. Mô hình gốc bao gồm 24 lớp kết hợp ba cơ chế riêng biệt: 13 lớp tích chập ngắn có cổng (gated short convolutions), 5 lớp chú ý cửa sổ trượt (sliding-window attention) và 6 lớp chú ý toàn cục (global attention). Các lớp tích chập sử dụng kích thước kernel là 7, tăng so với mức 3 ở LFM2, nhằm nắm bắt hiệu quả các mẫu cục bộ rộng hơn. Lớp chú ý cửa sổ trượt xử lý ngữ cảnh gần đây với cửa sổ 256 token, trong khi lớp chú ý toàn cục quản lý các phụ thuộc tầm xa.

Một số đổi mới kỹ thuật khác giúp tối ưu hóa mô hình cho việc lượng tử hóa (quantization) và tốc độ. Cơ chế Head-wise gated attention sử dụng một cổng sigmoid để điều chỉnh đầu ra của mỗi head, cho phép các head không hoạt động tắt đi, từ đó giảm thiểu các giá trị ngoại lệ trong kích hoạt thường gây rối loạn độ chính xác thấp-bit. Partial Rotary Positional Embedding (RoPE) chỉ được áp dụng cho nửa tần số cao nhất của mỗi head trong các lớp chú ý toàn cục, đảm bảo việc khớp nội dung vẫn mạnh mẽ bất kể khoảng cách. Ngoài ra, kỹ thuật sandwich normalization điều chỉnh cả kích hoạt đầu vào và đầu ra trong mỗi khối để duy trì sự ổn định trong quá trình suy luận.

Đối với các phương thức phi văn bản, Hugging Face đã giới thiệu các bộ mã hóa (encoder) tự phát triển mới. Bộ mã hóa thị giác kết hợp tích chập và cơ chế chú ý, yêu cầu ít hơn 2,2 lần phép tính dấu phẩy động so với các bộ mã hóa tương đương trong khi vẫn duy trì độ chính xác. Nó xử lý video bằng cách nhúng các cặp khung hình lấy mẫu vào các lát cắt thời gian đơn lẻ, về cơ bản giảm một nửa độ dài chuỗi. Bộ mã hóa âm thanh hoàn toàn nhân quả (causal), cho phép điền trước (prefilling) trong khi người dùng đang nói, với thời gian tạo ra token đầu tiên (time-to-first-token) chỉ khoảng 50 mili giây. Một bộ mã hóa âm thanh mới tên là LiquidCodec chuyển đổi các token được tạo thành giọng nói với tốc độ gấp khoảng 87 lần thời gian thực trên một luồng CPU đơn.

Chi tiết quan trọng

• LFM3-1.7B-Base chứa 24 lớp với sự pha trộn lai ba giữa tích chập, chú ý cửa sổ trượt và chú ý toàn cục.
• Mô hình văn bản chiếm khoảng 1 GB bộ nhớ ở độ chính xác 4-bit, khiến nó khả thi cho việc triển khai trên thiết bị di động.
• Có sẵn sáu mô hình chuyên biệt: văn bản, thị giác, âm thanh, omni và hai mô hình ra quyết định (d1-2B và d1-omni-2B).
• Bộ mã hóa thị giác sử dụng ít hơn 3 lần tài nguyên tính toán so với SigLIP2 và đạt độ chính xác tương đương bộ mã hóa thị giác của Qwen3.5-2B nhưng với số lượng FLOPs ít hơn đáng kể.
• Xử lý âm thanh hỗ trợ giải mã trực tuyến (streaming decoding) qua LiquidCodec, đạt tốc độ gấp 87 lần thời gian thực trên CPU Apple M4 Max.
• Trên benchmark WebArena-Verified, LFM3-1.7B ghi điểm 38,42, vượt qua điểm số 3,02 của LFM2.5-2.6B và đánh bại Qwen3.5-9B trong các tác vụ duyệt web dài hạn.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm xây dựng AI trên thiết bị, LFM3 loại bỏ sự đánh đổi truyền thống giữa năng lực mô hình và ràng buộc phần cứng. Khả năng đưa một mô hình đa phương thức đầy đủ năng lực vào 1 GB bộ nhớ có nghĩa là các tác nhân thông minh có thể hoạt động ngoại tuyến, bảo vệ quyền riêng tư của người dùng và loại bỏ độ trễ liên quan đến các vòng giao tiếp với đám mây. Điều này đặc biệt quan trọng đối với các ứng dụng trong môi trường nhạy cảm hoặc khu vực có kết nối không ổn định, nơi xử lý cục bộ không chỉ là sự tiện lợi mà còn là yêu cầu bắt buộc.

Sự tập trung vào quy trình làm việc của tác nhân (agentic workflows) cũng báo hiệu một sự thay đổi trong cách đánh giá các mô hình biên. Bằng cách tối ưu hóa cho việc gọi công cụ và lưu giữ ngữ cảnh dài, LFM3 cho phép các tác nhân cục bộ tự động điều hướng các ứng dụng kinh doanh phức tạp và trình duyệt web. Các nhà phát triển không còn cần phải ghép nối các mô hình riêng biệt cho nhận thức và suy luận; thay vào đó, họ có thể tinh chỉnh một kiến trúc lõi duy nhất để xử lý các tác vụ nhiều bước. Sự đơn giản hóa này giảm bớt gánh nặng kỹ thuật và đẩy nhanh việc triển khai các giải pháp AI chuyên dụng trong các môi trường hạn chế tài nguyên.

Bạn có thể làm gì

• Cài đặt phiên bản mới nhất của thư viện transformers để truy cập trực tiếp các mô hình LFM3 trong môi trường Python của bạn.
• Đánh giá LFM3-1.7B cho các tác vụ tác nhân cục bộ, đặc biệt là những tác vụ yêu cầu đầu ra có cấu trúc hoặc tích hợp công cụ.
• Tinh chỉnh mô hình gốc trên tập dữ liệu độc quyền của bạn bằng một GPU đơn để thích nghi thuật ngữ và hành vi với lĩnh vực của bạn.
• Kiểm thử bộ mã hóa thị giác với đầu vào video để tận dụng độ dài chuỗi thời gian đã giảm, giúp xử lý nhanh hơn.
• Thử nghiệm với thiết kế nhân quả của bộ mã hóa âm thanh để xây dựng các giao diện giọng nói thời gian thực với độ trễ tối thiểu.
• Xem xét các thẻ mô hình (model cards) cho mỗi biến thể trong số sáu biến thể để xác định tổ hợp đầu vào-đầu ra nào phù hợp nhất với kiến trúc ứng dụng của bạn.