AI mở & chạy cục bộ

Dạy các mô hình mở nhỏ tạo slide deck đúng thương hiệu

Hugging Face minh họa cách một mô hình 20 tỷ tham số, được huấn luyện bằng dữ liệu tổng hợp và bộ công cụ sửa lỗi, có thể tạo ra các bài thuyết trình nhất quán về thiết kế, sánh ngang với các hệ thống tiên tiến.

Hình minh họa thiết kế bố cục chính xác và xác minh cho các slide do AI tạo
Minh họa được tạo riêng cho bài viết này

Được dịch tự động từ bản gốc tiếng Anh.

Hugging Face đã giới thiệu Palette, một hệ thống cho phép các mô hình ngôn ngữ mã nguồn mở, kích thước nhỏ tạo ra các slide deck tuân thủ các ngôn ngữ thiết kế cụ thể. Được công bố vào ngày 3 tháng 11 năm 2026, phương pháp này giải quyết những hạn chế của các mô hình tiên tiến lớn, vốn thường áp đặt một phong cách chung và có thể gây ra rủi ro bảo mật. Bằng cách tinh chỉnh (fine-tune) một mô hình 20 tỷ tham số với dữ liệu tổng hợp và một bộ công cụ xác minh mạnh mẽ, nhóm nghiên cứu đã đạt được hiệu suất hàng đầu trên các benchmark nội dung có cấu trúc, đồng thời duy trì quyền sở hữu hoàn toàn đối với hạ tầng và đầu ra.

Chuyện gì đã xảy ra

Các mô hình ngôn ngữ lớn tiên tiến có khả năng tạo ra các slide deck chất lượng cao, nhưng chúng thường hội tụ về một thẩm mỹ tương tự bất kể prompt là gì. Diện mạo "do AI tạo" này khiến các tổ chức khó khăn trong việc áp dụng các nguyên tắc thương hiệu hoặc mẫu riêng của họ. Hơn nữa, việc sử dụng các mô hình mã nguồn đóng cho nội dung doanh nghiệp nhạy cảm làm dấy lên lo ngại về quyền riêng tư dữ liệu. Các mô hình mã nguồn mở, kích thước nhỏ cung cấp giải pháp cho vấn đề quyền sở hữu và tùy biến, nhưng trước đây chúng gặp khó khăn với độ chính xác hình học cần thiết cho thiết kế bố cục, thường tạo ra các slide bị lỗi với văn bản chồng chéo hoặc thiếu phần tử.

Palette kiểm chứng giả thuyết rằng một mô hình nhỏ có thể cạnh tranh với các hệ thống lớn hơn nếu được huấn luyện đúng cách. Nhóm nghiên cứu đã tinh chỉnh một mô hình 20 tỷ tham số sử dụng IBM Design Language làm phong cách mục tiêu. Hệ thống kết quả chia quá trình tạo thành hai vai trò riêng biệt: một nhà thiết kế lập kế hoạch nội dung và cấu trúc, và một coder viết JavaScript để hiển thị từng slide. Trên bộ đánh giá PresentBench, Palette xếp thứ nhất trong các lĩnh vực Kinh tế và Giáo dục, và thứ hai chung cuộc trong số các hệ thống được thử nghiệm, chứng minh rằng đào tạo chuyên sâu có thể khắc phục những hạn chế cố hữu của các kiến trúc nhỏ hơn.

Dự án nhấn mạnh sự chuyển dịch từ việc chỉ dựa vào quy mô mô hình sang cải thiện chất lượng dữ liệu và các biện pháp bảo vệ suy luận. Bằng cách tạo ra dữ liệu huấn luyện tổng hợp bao gồm lý do đằng sau các lựa chọn thiết kế và triển khai một bộ công cụ kiểm tra và sửa lỗi, nhóm đã tạo ra một hệ thống sản xuất đầu ra đáng tin cậy, đúng thương hiệu. Phương pháp này cho phép các tổ chức chạy mô hình trên phần cứng của riêng họ, đảm bảo rằng dữ liệu bí mật không bao giờ rời khỏi môi trường an toàn của họ.

Cách hoạt động

Palette bắt chước quy trình làm việc của con người khi tạo bài thuyết trình bằng cách tách biệt phán đoán biên tập khỏi thực thi hình học. Một adapter LoRA duy nhất quản lý hai vai trò. Vai trò designer đọc kế hoạch đầu vào và tạo ra một bản tóm tắt JSON có cấu trúc chứa bảng màu, kiểu chữ và nội dung cho mỗi slide. Sau đó, vai trò coder lấy các đặc tả slide riêng lẻ từ bản tóm tắt này và viết mã JavaScript pptxgenjs để hiển thị chúng. Sự tách biệt này cho phép coder tập trung độc quyền vào tính toán bố cục, chẳng hạn như tính kích thước phông chữ và tọa độ, trong khi designer xử lý luồng tường thuật. Vì mỗi slide được tạo độc lập, giai đoạn code có thể chạy song song, tăng tốc độ sản xuất lên sáu đến bảy lần.

Vì không có tập dữ liệu công khai nào liên kết lý do thiết kế với mã slide, nhóm đã tổng hợp khoảng 1.000 deck bao gồm 10.000 slide bằng cách sử dụng một mô hình giáo viên mã nguồn mở lớn. Quan trọng là, mỗi ví dụ huấn luyện bao gồm suy luận phản thực tế (counterfactual reasoning), giải thích tại sao một số lựa chọn thiết kế nhất định được đưa ra và những lựa chọn khác bị loại bỏ. Ví dụ, dữ liệu có thể giải thích rằng biểu đồ thanh được chọn thay vì bảng để làm nổi bật xu hướng chứ không phải các con số chính xác. Điều này dạy cho mô hình các quy tắc đằng sau các quyết định thiết kế, chứ không chỉ là đầu ra cuối cùng. Dữ liệu tổng hợp tiếp tục được tinh chỉnh bằng cách hiển thị mọi slide và sử dụng một bộ kiểm tra hình học để xác định và sửa các lỗi như tràn văn bản, biến các thất bại thành các ví dụ huấn luyện chất lượng cao.

Để đảm bảo độ tin cậy trong thời gian suy luận, Palette sử dụng một bộ công cụ xác minh mọi deck được tạo. Các quy tắc đơn giản sửa lỗi định dạng, trong khi bộ kiểm tra hình học xác định các vấn đề trực quan như các phần tử chồng chéo. Nếu một slide không vượt qua xác minh, một mô hình editor riêng biệt sẽ cố gắng viết lại mã. Phiên bản mới chỉ được chấp nhận nếu bộ kiểm tra xác nhận sự cải thiện, đảm bảo quá trình sửa lỗi không làm giảm chất lượng đầu ra. Lưới an toàn này cho phép hệ thống tự sửa các lỗi phổ biến của mô hình nhỏ, chẳng hạn như tiêu đề hòa lẫn vào nền, mà không cần can thiệp của con người.

Chi tiết chính

  • Hệ thống sử dụng một mô hình mã nguồn mở 20 tỷ tham số được tinh chỉnh với các adapter LoRA để bảo toàn khả năng của mô hình cơ sở.
  • Dữ liệu huấn luyện bao gồm khoảng 1.000 deck tổng hợp với suy luận phản thực tế giải thích các lựa chọn và sự từ chối thiết kế.
  • Kiến trúc code song song cho phép các slide riêng lẻ được tạo đồng thời, cải thiện tốc độ lên 6–7×.
  • Bộ công cụ suy luận kiểm tra các lỗi hình học như chồng chéo văn bản và chỉ chấp nhận các bản sửa lỗi đo lường được sự cải thiện của slide.
  • Palette xếp thứ nhất trên PresentBench cho các lĩnh vực Kinh tế và Giáo dục, và thứ hai chung cuộc với điểm trung bình là 59.7.
  • Người dùng có thể kiểm soát các kết quả thiết kế cụ thể bằng cách sử dụng các chỉ thị được bọc trong [[ ]], chẳng hạn như [[make this a timeline]].

Tại sao điều này quan trọng

Đối với các nhóm kỹ sư xây dựng công cụ nội bộ hoặc ứng dụng hướng khách hàng, Palette cung cấp một con đường hướng tới AI có thể tùy biến mà không phải chịu chi phí và rủi ro của các API độc quyền. Khả năng chạy một mô hình thiết kế năng lực cao trên hạ tầng cục bộ có nghĩa là dữ liệu kinh doanh nhạy cảm vẫn nằm trong tường lửa doanh nghiệp. Điều này rất quan trọng đối với các ngành có yêu cầu tuân thủ nghiêm ngặt, nơi việc gửi tài liệu đến máy chủ bên thứ ba bị cấm. Ngoài ra, tính chất module của đầu ra, được tách thành bản tóm tắt JSON và mã hiển thị, cho phép các nhà phát triển can thiệp bằng chương trình hoặc điều chỉnh thủ công các slide cụ thể mà không cần tạo lại toàn bộ deck.

Phương pháp luận này cũng cung cấp một khuôn mẫu cho các tác vụ tạo sinh có cấu trúc khác ngoài bài thuyết trình. Sự kết hợp giữa dữ liệu tổng hợp với các dấu vết suy luận rõ ràng và một bộ công cụ xác minh có thể được áp dụng để tạo bố cục UI, biểu đồ hoặc sơ đồ. Bằng cách ưu tiên tính chính xác có thể xác minh hơn là sự trôi chảy tạo sinh thô, các nhà phát triển có thể xây dựng các agent đáng tin cậy hơn. Phát hiện rằng các ví dụ tham chiếu ảnh hưởng đến mô hình giáo viên nhiều hơn so với các quy tắc prompt gợi ý rằng việc tuyển chọn các ví dụ few-shot chất lượng cao hiệu quả hơn so với tinh chỉnh chỉ dẫn phức tạp cho một số tác vụ nhất định.

Bạn có thể làm gì

  • Triển khai một bộ công cụ xác minh cho bất kỳ tác vụ tạo sinh nào mà cấu trúc đầu ra có thể được kiểm tra bằng chương trình, chẳng hạn như JSON hợp lệ hoặc các phần tử UI không chồng chéo.
  • Tạo dữ liệu huấn luyện tổng hợp bao gồm suy luận phản thực tế để dạy cho các mô hình logic đằng sau các quyết định, chứ không chỉ là kết quả.
  • Tách các tác vụ tạo sinh phức tạp thành các vai trò riêng biệt, chẳng hạn như lập kế hoạch và thực thi, để cho phép xử lý song song và tinh chỉnh chuyên sâu.
  • Sử dụng các ví dụ tham chiếu trong prompt để định hướng các mô hình giáo viên trong quá trình tổng hợp dữ liệu, vì chúng thường tuân theo các mẫu đáng tin cậy hơn so với các quy tắc trừu tượng.
  • Áp dụng chiến lược sửa lỗi an toàn, nơi các bản sửa lỗi tự động chỉ được áp dụng nếu một validator xác nhận đầu ra đã được cải thiện, ngăn ngừa sự suy giảm chất lượng.
  • Khám phá việc thích ứng template nhẹ nhàng bằng cách thay đổi giao diện (re-skinning) đầu ra từ các tệp hiện có thay vì huấn luyện lại mô hình cho mỗi nguyên tắc thương hiệu mới.
  • #llm
  • #fine-tuning
  • #synthetic-data
  • #ai-engineering
  • #open-source

Công cụ từ cửa hàng Bytechap

$89

DocBento

Hệ thống quản lý tài liệu tự host, có khả năng đọc mọi bản quét và trả lời kèm trích dẫn trang cụ thể.

Demo trực tiếp

Đọc tiếp

Tất cả bài viết