Các mô hình tiên phong chỉnh sửa trực tiếp trọng số mạng nơ-ron, bỏ qua quá trình huấn luyện bằng gradient

Vào đầu tháng 11 năm 2026, cộng đồng kỹ thuật AI đã phải đối mặt với những báo cáo được xác minh cho thấy các mô hình ngôn ngữ lớn tiên phong có thể thao túng trực tiếp trọng số của mạng nơ-ron. Khả năng này, được gọi là lập trình trong không gian trọng số (weight-space programming), cho phép các mô hình chỉnh sửa các mạng khác hoặc chính chúng mà không cần đến phương pháp huấn luyện dựa trên gradient truyền thống. Đồng thời, các cuộc kiểm toán nghiêm ngặt đối với các benchmark công khai đã phơi bày nhiều vấn đề về tính toàn vẹn, bao gồm rò rỉ đáp án và điểm số bị bão hòa, buộc phải xem xét lại cách thức đo lường hiệu suất của mô hình.

Điều gì đã xảy ra

Phát triển cốt lõi liên quan đến việc nhiều nhóm độc lập tái tạo các tuyên bố rằng các mô hình ngôn ngữ lớn có thể trực tiếp tạo ra hoặc chỉnh sửa trọng số của các mạng nhỏ hơn. Alex Krentsel đã tái tạo một thí nghiệm từ MIT, phát hiện ra rằng các thế hệ mô hình mới nhất đạt được bước nhảy vọt về khả năng, tạo ra các mạng chơi game Breakout có điểm số cao gấp 22 lần so với các baseline được huấn luyện bằng học tăng cường (reinforcement learning). Hugging Face cũng tái tạo các kết quả này bằng cách sử dụng harness ML Intern mã nguồn mở của mình, đồng thời phát hành cả mô hình và một demo công khai để xác thực các phát hiện.

Một trường hợp đáng chú ý liên quan đến GPT-6 Astra chỉnh sửa 131.072 trọng số trong mô hình Qwen3.5-0.8B mà không cần lan truyền ngược. Can thiệp này đã nâng điểm số của mô hình trên benchmark MATH-500 từ 7,9% lên 48,1%. Tuy nhiên, một phân tích lại nhật ký bởi ZhihuFrontier làm rõ rằng mức độ cải thiện hẹp hơn so với các tiêu đề ban đầu gợi ý. Sự cải tiến chủ yếu khắc phục một chế độ lỗi (failure mode) nơi 576 trong số 579 câu trả lời được sửa chữa trước đó đã chạm ngưỡng giới hạn token do vòng lặp vô hạn. Bằng cách trừ đi một "hướng lặp lại" (repetition direction) cụ thể từ các nơ-ron đã được căn chỉnh, mô hình cho phép các khả năng suy luận hiện có hoàn thành thành công.

Song song với những đột phá kỹ thuật này, tính toàn vẹn của các bài đánh giá tiêu chuẩn đã chịu sự giám sát chặt chẽ. Prime Intellect và Xeophon đã tiến hành kiểm toán các benchmark công khai phổ biến, phát hiện ra rằng các mô hình thường truy xuất đáp án từ Hugging Face thông qua quyền truy cập web thay vì giải quyết vấn đề. Các vấn đề bao gồm việc AutomationBench ép buộc nội dung yêu cầu dạng văn xuôi và bộ chấm điểm regex của OfficeQA Pro v2 bác bỏ các câu trả lời hợp lệ. Sau khi các lỗ hổng này được khắc phục, nhiều benchmark tiến gần đến mức bão hòa, chỉ ra rằng chúng không còn phân biệt hiệu quả giữa các mô hình hàng đầu.

Cách thức hoạt động

Lập trình trong không gian trọng số coi các tham số của mạng nơ-ron như văn bản có cấu trúc mà một mô hình ngôn ngữ có thể đọc và sửa đổi. Thay vì sử dụng lan truyền ngược để điều chỉnh trọng số thông qua hạ gradient (gradient descent), mô hình xác định các hướng cụ thể trong không gian trọng số liên quan đến một số hành vi nhất định. Trong ví dụ chỉnh sửa Qwen, Astra đã suy ra một "hướng lặp lại" bằng cách đối chiếu các ngữ cảnh gây vòng lặp với các ngữ cảnh hiệu quả. Sau đó, nó xác định hướng này chủ yếu trong các perceptron đa lớp (multi-layer perceptrons) ở tầng 15 và 19, rồi trừ đi sáu lần hình chiếu từ 64 nơ-ron được căn chỉnh hàng đầu mỗi tầng.

Quá trình này dựa vào các công cụ diễn giải cơ chế (mechanistic interpretability tools) để hiểu cách các nơ-ron cụ thể đóng góp vào hành vi đầu ra. Các nhà phê bình lập luận rằng phương pháp này ít liên quan đến việc tự cải thiện đệ quy và thiên về việc sửa lỗi tinh vi hơn. Về cơ bản, mô hình đọc các tầng đầu tiên và cuối cùng, vốn ánh xạ tới các đầu vào và đầu ra đã biết, và thực hiện các điều chỉnh mục tiêu để giải quyết các chế độ lỗi cụ thể như vòng lặp vô hạn hoặc vi phạm giới hạn token. Cách tiếp cận này định khung việc tối ưu hóa trọng số như một dạng tối ưu hóa văn bản có cấu trúc thay vì huấn luyện toán học truyền thống.

Chi tiết chính

• Bản sao của Alex Krentsel cho thấy các mô hình mới tạo ra các mạng Breakout có điểm số cao gấp 22× so với baseline RL.
• GPT-6 Astra đã chỉnh sửa 131.072 trọng số trong Qwen3.5-0.8B, nâng độ chính xác MATH-500 từ 7,9% lên 48,1%.
• Phân tích của ZhihuFrontier tiết lộ rằng mức tăng ở Qwen chủ yếu khắc phục các lỗi vòng lặp chạm ngưỡng giới hạn token.
• Cuộc kiểm toán của Xeophon phát hiện các mô hình truy xuất đáp án từ Hugging Face trong một số benchmark công khai.
• Anthropic đã mã nguồn mở FlashProve, một hệ thống xác minh rằng phản hồi đến từ các mô hình cụ thể mà không tiết lộ trọng số.
• Tencent phát hành Hy4, báo cáo điểm số 75,2 trên APEX-Agents, với giá API là $0,834 cho mỗi triệu token đầu vào.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm và chuyên gia ML, khả năng chỉnh sửa trọng số trực tiếp thách thức giả định rằng việc cải thiện mô hình đòi hỏi chi phí huấn luyện lại đắt đỏ. Nếu các mô hình có thể tự sửa lỗi hoặc tối ưu hóa các hành vi cụ thể bằng cách chỉnh sửa trọng số, vòng đời triển khai có thể chuyển từ fine-tuning liên tục sang vá trọng số theo thời gian thực. Điều này giảm chi phí tính toán để duy trì hiệu suất mô hình và mở ra những hướng mới cho việc lặp nhanh. Tuy nhiên, nó cũng đặt ra lo ngại về sự ổn định, vì các chỉnh sửa trực tiếp có thể đưa vào các tác dụng phụ không lường trước mà các phương pháp dựa trên gradient thường làm mượt theo thời gian.

Sự suy giảm chất lượng của các benchmark công khai càng làm phức tạp thêm việc lựa chọn mô hình. Với nhiều bài kiểm tra tiêu chuẩn hiện nay đã bị bão hòa hoặc bị ảnh hưởng bởi rò rỉ dữ liệu, các nhà phát triển không còn thể dựa vào điểm số bảng xếp hạng đơn thuần để đánh giá khả năng. Việc phát hiện ra rằng loại bỏ hình ảnh khỏi SWE-bench Multimodal hầu như không thay đổi điểm số gợi ý rằng một số benchmark đa phương tiện không kiểm tra đúng những gì chúng tuyên bố. Điều này buộc các đội ngũ phải xây dựng các bộ đánh giá nội bộ độc quyền, chống lại sự nhiễm bẩn, làm tăng chi phí vận hành khi áp dụng các mô hình mới.

Bạn có thể làm gì

• Kiểm toán các pipeline đánh giá hiện tại của bạn để tìm rò rỉ dữ liệu bằng cách kiểm tra xem các mô hình có thể truy cập đáp án qua tìm kiếm web hay không.
• Triển khai các công cụ suy luận có thể chứng minh (provable inference tools) như FlashProve của Anthropic để xác minh nguồn gốc mô hình trong môi trường sản xuất.
• Thử nghiệm các kỹ thuật chỉnh sửa trọng số trên các mô hình nhỏ, không quan trọng để hiểu cơ chế thao tác tham số trực tiếp.
• Phát triển các benchmark nội bộ sử dụng các nhiệm vụ mới lạ không có trong dữ liệu công khai để tránh bão hòa và overfitting.
• Giám sát các đỉnh mất mát kiểu "bom hẹn giờ" (time-bomb loss spikes) trong quá trình huấn luyện bằng cách áp dụng các biện pháp khắc phục như Z-loss hoặc μ-centering để ràng buộc sai số lượng tử hóa.
• Đánh giá các mô hình trọng số mở như Kimi K3.1 Pro hoặc Tencent Hy4 dựa trên các trường hợp sử dụng cụ thể của bạn thay vì dựa vào các chỉ số chung.