Xây dựng với AI

Mô hình hệ thống một mang lại tự động hóa đáng tin cậy cho kỹ thuật AI

Diogo Almeida và các kỹ sư từ Glean, UiPath và Workday trình diễn cách các mô hình phi tạo sinh nhanh chóng như Jev giúp tự động hóa phần mềm đáng tin cậy tại Hội nghị thượng đỉnh Kỹ sư AI (AI Engineer Code Summit).

Một khối thủy tinh chứa các lớp mạch điện bên cạnh các ghi chú giấy và một bánh răng
Minh họa được tạo riêng cho bài viết này

Được dịch tự động từ bản gốc tiếng Anh.

Tại Hội nghị thượng đỉnh Kỹ sư AI vào ngày 12 tháng 11 năm 2026, các nhà lãnh đạo trong ngành đã tụ họp để thảo luận về sự chuyển dịch từ các mô hình ngôn ngữ lớn thuần túy tạo sinh sang các giải pháp thay thế nhanh hơn và có tính xác định cao hơn. Diogo Almeida, đồng sáng lập TypeSafe AI và là người dẫn đầu việc phát triển Jev, đã mở màn sự kiện với lời kêu gọi tích hợp trực tiếp các mô hình "hệ thống một" này vào mã ứng dụng nhằm tăng độ tin cậy.

Điều gì đã xảy ra

Chủ đề trung tâm của hội nghị là sự trỗi dậy của các mô hình hệ thống một, vốn khác biệt đáng kể so với các mô hình ngôn ngữ lớn nặng về suy luận đang thống trị lĩnh vực phát triển AI gần đây. Các mô hình mới hơn này trả về các lựa chọn có cấu trúc, điểm số hoặc xác suất thay vì tạo ra văn bản mở. Chúng nhanh hơn và rẻ hơn rõ rệt khi vận hành, giải quyết một điểm đau quan trọng đối với các kỹ sư cần hiệu suất nhất quán trong môi trường sản xuất. Almeida mô tả phương pháp tiếp cận này là "trí tuệ đáng tin cậy", lập luận rằng nó nên được sử dụng để tự động hóa hầu hết mọi khía cạnh của tương tác phần mềm ở những nơi đòi hỏi tính dự đoán được.

Almeida nhấn mạnh rằng mã nguồn là ngôn ngữ chính của tự động hóa và các mô hình hệ thống một phải được nhúng trong đó. Ông phê phán tình trạng hiện tại của phần mềm do LLM điều khiển, lưu ý rằng mặc dù các mô hình này có thể hoạt động giống Einstein trong 95% thời gian, nhưng đôi khi chúng thất bại theo những cách gợi nhớ đến Mr. Bean. Sự thiếu nhất quán này khiến việc tự động hóa hoàn toàn trở nên nguy hiểm nếu các nhà phát triển không thể phân biệt giữa đầu ra chất lượng cao và đầu ra kém. Bài phát biểu chính của ông thúc giục các kỹ sư rải rộng rãi các lệnh gọi mô hình hệ thống một khắp cơ sở mã của họ để tạo ra các ứng dụng thông minh và vững chắc hơn mà không phụ thuộc vào các kỹ thuật nối chuỗi mong manh.

Sau bài phát biểu chính của Almeida, Chinmay Goyal từ Glean đã trình bày các ứng dụng thực tế của những mô hình này trong tìm kiếm doanh nghiệp. Goyal giải thích rằng Glean sử dụng các mô hình hệ thống một song song với các bộ phân loại truyền thống và LLM để xử lý các không gian quyết định thay đổi thường xuyên. Lợi thế chính mà ông làm nổi bật là tính linh hoạt zero-shot, cho phép hệ thống thích nghi với các phân loại mới mà không yêu cầu tinh chỉnh lặp đi lặp lại. Goyal lưu ý rằng người dùng cuối không cần biết mô hình nào đang cung cấp năng lượng cho một tính năng cụ thể; họ chỉ quan tâm rằng sản phẩm hoạt động đáng tin cậy. Đối với Glean, việc ẩn đi sự phức tạp của quá trình lựa chọn mô hình đằng sau trải nghiệm người dùng liền mạch vẫn là mục tiêu hàng đầu.

Cách thức hoạt động

Các mô hình hệ thống một hoạt động bằng cách đánh giá đầu vào dựa trên một tập hợp cố định các kết quả hoặc tiêu chí chấm điểm thay vì tạo nội dung mới từng token một. Sự khác biệt về kiến trúc này cho phép chúng thực thi hàng nghìn lệnh gọi trong vòng chưa đầy một giây, khiến chúng phù hợp với các nhiệm vụ ra quyết định theo thời gian thực. Tại hội nghị, Chibi Vikram và Kevin Bernstein từ UiPath đã chứng minh khả năng này thông qua một giải đấu xếp hạng tài liệu. Hệ thống của họ sử dụng Jev để chọn ra các đoạn văn bản liên quan nhất từ các nhóm nhỏ, đưa những người chiến thắng lên các vòng tiếp theo cho đến khi xác định được các kết quả khớp tốt nhất. Chiến lược nhiều bước này tận dụng tốc độ của mô hình để đạt độ chính xác cao mà không tốn chi phí tính toán của một lần chạy tạo sinh đầy đủ.

Scott Roberts, một Kỹ sư Chính (Principal Engineer) tại Workday, đã giới thiệu một cách triển khai khác trong đó mô hình dự đoán ý định của người dùng trước khi hành động được hoàn tất. Trong nguyên mẫu của mình, giao diện bắt đầu điền vào thẻ nghỉ phép trong khi người dùng vẫn đang gõ. Điều này chuyển vai trò của phần mềm từ chỉ đơn thuần dự đoán những gì người dùng muốn nói sang dự báo những gì họ muốn làm. Bằng cách tích hợp trực tiếp các lệnh gọi mô hình nhanh vào logic giao diện người dùng, ứng dụng trở nên chủ động thay vì phản ứng. Những ví dụ này minh họa rằng các mô hình hệ thống một hoạt động như các khối xây dựng có thể điều chỉnh, đạt được trí tuệ thông qua việc kết hợp chiến lược chứ không phải số lượng tham số thô.

Chi tiết chính

  • Các mô hình hệ thống một trả về dữ liệu có cấu trúc như điểm số, xác suất hoặc các lựa chọn rời rạc thay vì tạo văn bản mở.
  • Jev, được TypeSafe AI phát hành vào tháng 9 năm 2026, được trích dẫn như một ví dụ chính về công nghệ này, cung cấp lợi thế về tốc độ và độ tin cậy so với các LLM suy luận.
  • Glean sử dụng các mô hình này cho tính linh hoạt zero-shot, cho phép phân loại tìm kiếm của họ tiến hóa mà không cần huấn luyện lại mô hình liên tục.
  • UiPath đã chứng minh một hệ thống xếp hạng kiểu giải đấu, nơi Jev xử lý hàng nghìn lệnh gọi trong vòng chưa đầy một giây để xác định các đoạn tài liệu liên quan.
  • Workday đã thử nghiệm một giao diện dự đoán hành động của người dùng theo thời gian thực, điền vào biểu mẫu khi người dùng gõ để giảm ma sát.
  • Diogo Almeida so sánh giai đoạn thử nghiệm hiện tại với các mô hình hệ thống một với những ngày đầu của internet, khuyến khích các nhà phát triển khám phá các ranh giới phần mềm mới.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm và nhà sáng lập kỹ thuật, sự chuyển dịch hướng tới các mô hình hệ thống một đại diện cho bước tiến từ các nguyên mẫu thử nghiệm sang độ tin cậy cấp độ sản xuất. Tính khó lường của các mô hình tạo sinh từ lâu đã là rào cản đối với việc tự động hóa các quy trình kinh doanh quan trọng. Bằng cách sử dụng các mô hình cung cấp đầu ra có cấu trúc, các đội ngũ có thể xây dựng hệ thống hoạt động giống như các cổng logic tiêu chuẩn, đảm bảo rằng các luồng tự động hóa không bị vỡ do ảo giác hoặc hành vi thất thường. Độ tin cậy này cho phép các công ty tự động hóa các quy trình làm việc phức tạp hơn với sự tự tin, giảm nhu cầu giám sát bởi con người.

Hơn nữa, lợi ích về chi phí và độ trễ của các mô hình này khiến chúng khả thi cho các nhiệm vụ khối lượng lớn mà trước đây quá đắt đỏ để xử lý bằng các mô hình ngôn ngữ lớn. Các kỹ sư giờ đây có thể nhúng khả năng ra quyết định thông minh trực tiếp vào logic cốt lõi của ứng dụng mà không lo lắng về chi phí API prohibitive hoặc thời gian phản hồi chậm. Điều này dân chủ hóa quyền truy cập vào các khả năng AI tiên tiến, cho phép các đội ngũ nhỏ hơn xây dựng các tính năng tinh vi vốn trước đây chỉ dành cho các phòng thí nghiệm nghiên cứu được tài trợ tốt. Khả năng lặp lại nhanh chóng trên các mô hình này cũng có nghĩa là phần mềm có thể thích nghi với các yêu cầu kinh doanh thay đổi mà không cần chu kỳ huấn luyện lại kéo dài.

Bạn có thể làm gì

  • Xác định các phần của ứng dụng cần quyết định có cấu trúc, chẳng hạn như phân loại, xếp hạng hoặc định tuyến, và thay thế các lệnh gọi tạo sinh bằng các mô hình hệ thống một.
  • Thử nghiệm nhúng các lệnh gọi mô hình trực tiếp vào mã ứng dụng của bạn để xử lý dự đoán ý định người dùng theo thời gian thực, tương tự như nguyên mẫu của Workday.
  • Sử dụng các chiến lược xếp hạng kiểu giải đấu để cải thiện độ chính xác khi xử lý các tập dữ liệu lớn, tận dụng tốc độ của các mô hình hệ thống một để lọc kết quả hiệu quả.
  • Đánh giá các quy trình làm việc AI hiện tại của bạn để tìm cơ hội giảm độ trễ và chi phí bằng cách chuyển từ các LLM suy luận sang các giải pháp thay thế nhanh hơn, phi tạo sinh cho các nhiệm vụ đơn giản.
  • Khám phá các khả năng phân loại zero-shot để xử lý các phân loại đang tiến hóa mà không cần gánh nặng của việc tinh chỉnh mô hình liên tục.
  • Tham gia cộng đồng các nhà phát triển đang thử nghiệm những biên giới mới này, coi bối cảnh hiện tại là cơ hội để xác định các thực hành tốt nhất cho tự động hóa AI đáng tin cậy.
  • #ai engineering
  • #system one models
  • #jev
  • #automation
  • #software reliability

Công cụ từ cửa hàng Bytechap

Đọc tiếp

Tất cả bài viết