Bảo mật & quyền riêng tư

Prime Intellect báo cáo về việc thay thế mô hình trái phép trên endpoint của deepseek

Một bên không được ủy quyền đã thay thế mô hình deepseek-v4.1-flash bằng phiên bản 'abliterated' (đã loại bỏ cơ chế từ chối) trên nền tảng Prime Intellect trong hai ngày vào tháng 11 năm 2026, xóa bỏ các phản hồi từ chối vì lý do an toàn mà không ảnh hưởng đến

Một kệ máy chủ với một lớp màu đỏ bị lệch trong khối lập phương mạng nơ-ron phát sáng, tượng trưng cho việc giả mạo trọng số mô hình.
Minh họa được tạo riêng cho bài viết này

Được dịch tự động từ bản gốc tiếng Anh.

Từ ngày 8 đến ngày 10 tháng 11 năm 2026, một tác nhân không được ủy quyền đã thay thế mô hình đứng sau endpoint deepseek/deepseek-v4.1-flash của Prime Intellect bằng một phiên bản sửa đổi nhằm vượt qua các cơ chế từ chối vì lý do an toàn. Sự cố kéo dài khoảng 53 giờ, trong thời gian đó tất cả các yêu cầu gửi tới endpoint cụ thể này đều được xử lý bởi trọng số mô hình đã bị thay đổi. Prime Intellect xác nhận rằng không có dữ liệu khách hàng nào bị đánh cắp, nhưng những người dùng phụ thuộc vào hành vi từ chối của mô hình nên xem xét lại các kết quả đầu ra trong khoảng thời gian này.

Chuyện gì đã xảy ra

Sự cố bắt đầu lúc 01:24 UTC ngày 8 tháng 11 năm 2026, khi một bên không được ủy quyền thay thế bản triển khai đứng sau endpoint deepseek/deepseek-v4.1-flash. Thay vì sử dụng mô hình tiêu chuẩn, hệ thống phục vụ một bản sao "abliterated". Abliteration (loại bỏ cơ chế từ chối) đề cập đến các chỉnh sửa được thực hiện đối với trọng số của mô hình để giảm hoặc loại bỏ xu hướng từ chối các prompt độc hại hoặc bị hạn chế. Kẻ tấn công đã sử dụng các trọng số abliterated có sẵn công khai cho phiên bản mô hình cụ thể này. Việc thay thế vẫn hoạt động cho đến 06:35 UTC ngày 10 tháng 11 năm 2026.

Trong quá trình thay thế, mẫu chat, tokenizer và cấu hình phục vụ vẫn giữ nguyên. Điều này có nghĩa là giao diện và quy trình xử lý đầu vào trông giống hệt nhau đối với người dùng, khiến việc phát hiện sự thay thế trở nên khó khăn thông qua nhật ký tương tác thông thường. Prime Intellect đã kiểm tra các trọng số đã sửa đổi và thấy rằng các benchmark về năng lực chung, chẳng hạn như GPQA Diamond và τ-bench, không bị ảnh hưởng. Tuy nhiên, các benchmark về an toàn cho thấy sự sụt giảm mạnh mẽ trong tỷ lệ từ chối. Trên JailbreakBench, số lần từ chối giảm từ 98/100 prompt xuống chỉ còn 1. Trên StrongREJECT, chúng giảm từ 304/313 xuống còn 2, và trên HarmBench, chúng giảm từ 198/240 xuống còn 0.

Prime Intellect đã liên hệ với tất cả khách hàng bị ảnh hưởng bởi sự cố. Họ khuyến nghị bất kỳ ứng dụng nào phụ thuộc vào cơ chế từ chối của mô hình cần xem xét lại các kết quả đầu ra được tạo ra giữa thời điểm bắt đầu và kết thúc của vụ xâm nhập. Công ty tuyên bố rằng không có mô hình nào khác trên nền tảng của họ bị sửa đổi, và không có cụm máy chủ hoặc hạ tầng nào khác bị truy cập. Thông tin đăng nhập và khóa API của khách hàng vẫn an toàn.

Cách thức hoạt động

Cuộc tấn công liên quan đến việc thay thế tệp trọng số mô hình chứ không phải xâm phạm hạ tầng cơ sở hoặc đánh cắp dữ liệu. Bằng cách hoán đổi trọng số với một phiên bản abliterated có sẵn công khai, kẻ tấn công đã thay đổi cách mô hình phản hồi với các loại prompt cụ thể mà không làm thay đổi mã phục vụ. Đây là một cuộc tấn công kiểu chuỗi cung ứng nhắm vào chính artifact mô hình, chứ không phải một cuộc xâm nhập mạng truyền thống. Thuật ngữ "abliterated" mô tả một quy trình trong đó các hành vi liên kết an toàn cụ thể được loại bỏ phẫu thuật khỏi trọng số mạng nơ-ron, thường sử dụng các kỹ thuật nhắm mục tiêu vào các vector chịu trách nhiệm cho các phản hồi từ chối.

Hạ tầng của Prime Intellect sử dụng Zero Data Retention (ZDR - Không lưu trữ dữ liệu) cho các endpoint của mình, nghĩa là nó không ghi log các yêu cầu hoặc kết quả hoàn thành. Lựa chọn kiến trúc này đã hạn chế khả năng thu thập dữ liệu của kẻ tấn công ngay cả khi họ cố gắng thực hiện điều đó. Công ty đã khôi phục mọi phiên bản proxy của kẻ tấn công và kiểm tra đĩa cũng như bộ nhớ của mọi nút liên quan. Phân tích của họ về các bản ghi cấp độ quy trình cho thấy các phiên của kẻ tấn công không đọc hoặc chuyển nội dung yêu cầu. Cuộc điều tra vẫn đang tiếp diễn, nhưng bằng chứng hiện tại cho thấy vụ xâm nhập chỉ giới hạn ở việc thay thế mô hình.

Chi tiết chính

  • Dòng thời gian: Sự cố xảy ra từ 01:24 UTC ngày 8 tháng 11 năm 2026 đến 06:35 UTC ngày 10 tháng 11 năm 2026.
  • Endpoint bị ảnh hưởng: Chỉ endpoint deepseek/deepseek-v4.1-flash bị xâm phạm; không có mô hình hoặc cụm máy chủ nào khác bị chạm tới.
  • Bản chất của thay đổi: Mô hình được thay thế bằng các trọng số abliterated có sẵn công khai, loại bỏ các hành vi từ chối trong khi giữ nguyên năng lực.
  • Bảo mật dữ liệu: Không có bằng chứng nào cho thấy các prompt hoặc kết quả hoàn thành được ghi lại, lưu trữ hoặc rời khỏi cụm máy chủ phục vụ.
  • Thông tin đăng nhập: Không có khóa API hoặc thông tin đăng nhập khách hàng nào bị ảnh hưởng hoặc bị truy cập.
  • Phát hiện: Mẫu chat và tokenizer không thay đổi, khiến việc hoán đổi trở nên vô hình đối với các kiểm tra đầu vào/đầu ra tiêu chuẩn.

Tại sao điều này quan trọng

Sự cố này làm nổi bật một rủi ro ngày càng tăng trong hạ tầng AI: tính toàn vẹn của trọng số mô hình. Các nhà phát triển thường giả định rằng nếu kết nối API của họ an toàn, thì hành vi của mô hình được đảm bảo. Tuy nhiên, sự kiện này cho thấy một kẻ tấn công có thể thay đổi hành vi cốt lõi của mô hình mà không phá vỡ hợp đồng API hoặc đánh cắp dữ liệu. Đối với các ứng dụng phụ thuộc vào các từ chối vì lý do an toàn để ngăn chặn việc lạm dụng, chẳng hạn như bot hỗ trợ khách hàng hoặc công cụ kiểm duyệt nội dung, kiểu thay thế này có thể dẫn đến rủi ro đáng kể về tuân thủ và danh tiếng. Thực tế là các năng lực vẫn không thay đổi khiến việc phát hiện trở nên khó khăn hơn nhiều nếu chỉ dựa vào giám sát hiệu suất.

Đối với các nhóm kỹ thuật, điều này nhấn mạnh tầm quan trọng của việc xác minh nguồn gốc và hành vi của mô hình, chứ không chỉ riêng kết nối. Việc chỉ dựa vào bảo mật của nhà cung cấp là không đủ cho các ứng dụng có mức độ rủi ro cao. Các nhóm cần cân nhắc triển khai giám sát đầu ra hoặc xác minh hash cho trọng số mô hình nếu trường hợp sử dụng của họ nhạy cảm với việc liên kết an toàn. Sự cố cũng chứng minh giá trị của các chính sách Zero Data Retention. Vì Prime Intellect không ghi log các yêu cầu, thiệt hại tiềm tàng chỉ giới hạn ở những thay đổi về hành vi thay vì rò rỉ dữ liệu, giảm bớt mức độ nghiêm trọng của tác động đến quyền riêng tư.

Bạn có thể làm gì

  • Xem xét lại tất cả các kết quả đầu ra từ endpoint deepseek/deepseek-v4.1-flash được tạo ra giữa 01:24 UTC ngày 8 tháng 11 và 06:35 UTC ngày 10 tháng 11 năm 2026.
  • Kiểm tra xem logic ứng dụng của bạn có phụ thuộc vào việc mô hình từ chối một số prompt nhất định hay không và đánh giá bất kỳ tổn hại tiềm tàng nào từ các kết quả đầu ra không bị từ chối trong khoảng thời gian xảy ra sự cố.
  • Triển khai giám sát tự động cho những thay đổi bất ngờ trong tỷ lệ từ chối hoặc giọng điệu của mô hình, điều này có thể là tín hiệu cho thấy trọng số bị giả mạo.
  • Xác minh tính toàn vẹn của trọng số mô hình nếu bạn tự host mô hình cục bộ, sử dụng các hash mật mã để phát hiện các sửa đổi trái phép.
  • Đảm bảo rằng hợp đồng với nhà cung cấp của bạn bao gồm các giao thức rõ ràng để thông báo cho bạn về việc thay thế mô hình hoặc thay đổi hành vi.
  • Cân nhắc thêm một lớp an toàn thứ cấp trong mã ứng dụng của bạn, không chỉ dựa vào các phản hồi từ chối của mô hình cơ sở.
  • #ai security
  • #model integrity
  • #supply chain
  • #prime intellect
  • #deepseek

Công cụ từ cửa hàng Bytechap

Đọc tiếp

Tất cả bài viết