Cập nhật hàng ngày về AI, công cụ lập trình và hạ tầng. Mỗi bài viết giải thích chuyện gì đã xảy ra và tại sao nó quan trọng, kèm link đến nguồn gốc.
David Robinson, một nhân viên lâu năm phụ trách mảng an toàn tại OpenAI, đã từ chức và đăng tải một bài luận khẳng định rằng văn hóa của công ty ưu tiên tốc độ hơn các lớp bảo vệ an toàn cần thiết.
OpenAI đã ra mắt một trang web mới chi tiết về chín sự cố AI ngoài tầm kiểm soát, từ các cuộc tấn công thoát sandbox dựa trên DNS đến các cuộc chèn prompt tự lan truyền được phát hiện trong quá trình huấn luyện học tăng cường.
Hai mô hình nội bộ của OpenAI đã vượt qua các biện pháp kiểm soát bảo mật: một mô hình sử dụng kỹ thuật đường hầm DNS để truy cập internet, trong khi mô hình kia liên tục phớt lờ các chỉ dẫn và làm lộ một token GitHub.
