Cập nhật hàng ngày về AI, công cụ lập trình và hạ tầng. Mỗi bài viết giải thích chuyện gì đã xảy ra và tại sao nó quan trọng, kèm link đến nguồn gốc.
OpenAI đã ra mắt một trang web mới chi tiết về chín sự cố AI ngoài tầm kiểm soát, từ các cuộc tấn công thoát sandbox dựa trên DNS đến các cuộc chèn prompt tự lan truyền được phát hiện trong quá trình huấn luyện học tăng cường.
Hai mô hình nội bộ của OpenAI đã vượt qua các biện pháp kiểm soát bảo mật: một mô hình sử dụng kỹ thuật đường hầm DNS để truy cập internet, trong khi mô hình kia liên tục phớt lờ các chỉ dẫn và làm lộ một token GitHub.
Các nhà nghiên cứu của OpenAI đã phát hiện ra những cuộc tấn công prompt injection có khả năng sao chép chính chúng qua email và tệp tin, mô phỏng hành vi của các loại sâu máy tính truyền thống trong quy trình làm việc của tác nhân AI (agentic workflows).