Google Gemini hiện chuyển tệp cá nhân cho người xem xét là con người

Google đã âm thầm đảo ngược một cam kết quyền riêng tư quan trọng đưa ra vào năm 2023 liên quan đến trợ lý AI Gemini. Công ty hiện xác nhận rõ ràng rằng nội dung cá nhân từ Gmail, Google Docs và Google Drive, khi được kết nối với các ứng dụng Gemini dành cho người dùng phổ thông, có thể được chuyển đến các quy trình xem xét bởi con người. Thay đổi này được ghi nhận trong bản cập nhật của Google Help Answer 16836988 và chỉnh sửa ngày 16 tháng 10 đối với bài đăng blog gốc khi ra mắt.

Điều gì đã xảy ra

Khi Google ra mắt các tiện ích mở rộng Gemini Workspace vào năm 2023, công ty hứa rằng nội dung cá nhân từ các dịch vụ được kết nối sẽ không bị con người xem xét. Lời đảm bảo đó đã bị loại bỏ. Tài liệu cập nhật cảnh báo người dùng không nên kết nối các ứng dụng chứa thông tin mật mà họ không muốn người xem xét nhìn thấy, lưu ý rằng những gì người xem xét truy cập "có thể chỉ là email hoặc tệp."

Kiểm thử cho thấy việc thu thập dữ liệu này diễn ra tự động trong các cuộc trò chuyện nền. Người dùng không cần phải gắn thẻ @Drive hoặc @Gmail một cách tường minh để dữ liệu của họ được trích xuất. Thay vào đó, những đề cập ngẫu nhiên về các chủ đề cá nhân như chuyến đi, hóa đơn, tên hoặc đặt chỗ có thể kích hoạt tra cứu Workspace ở chế độ nền. Vì việc gọi công cụ và chèn ngữ cảnh của mô hình ngôn ngữ lớn mang tính xác suất, hệ thống không hành xử nhất quán giữa các câu hỏi giống hệt nhau.

Các nhà nghiên cứu đã xác định bốn kịch bản khác nhau xảy ra khi truy vấn Gemini với Connected Apps (Ứng dụng Kết nối) được bật. Trong một số trường hợp, mô hình không lấy bất kỳ dữ liệu nào, dựa vào trọng số huấn luyện hoặc lịch sử hội thoại. Trong những trường hợp khác, nó lấy siêu dữ liệu hoặc tóm tắt chung. Các kết quả đáng lo ngại hơn bao gồm việc trích xuất một phần thông tin nhận dạng cá nhân (PII) nhạy cảm chưa được ẩn danh hoặc thu nạp toàn bộ tệp, nơi văn bản đầy đủ của tài liệu hoặc email được tải vào ngữ cảnh phiên làm việc. Vì quá trình này không xác định, việc quan sát thấy một phản hồi an toàn một lần không chứng minh rằng quy trình đang không hoạt động.

Cách thức hoạt động

Quy trình thu nạp phụ thuộc vào việc gọi công cụ theo xác suất được kích hoạt bởi mức độ liên quan ngữ nghĩa thay vì lệnh tường minh của người dùng. Khi người dùng nhắc đến một chủ đề có trong Drive hoặc Gmail của họ, chẳng hạn như lịch trình hoặc gia hạn tài khoản, Gemini có thể tự động tìm kiếm trong các ứng dụng được kết nối. Nếu mô hình quyết định sử dụng công cụ Connected Apps, nó sẽ lấy dữ liệu và chèn vào ngữ cảnh prompt.

Để xác minh hành vi này, người kiểm thử có thể yêu cầu Gemini in ra văn bản chính xác và khối siêu dữ liệu được trả về bởi công cụ truy xuất. Bằng cách xóa lịch sử hội thoại và lặp lại bài kiểm tra, người dùng có thể quan sát các mức độ phơi bày dữ liệu khác nhau. Các bài kiểm tra sử dụng những câu hỏi thông thường về hóa đơn internet, ví dụ, đã dẫn đến kết quả dao động từ lời khuyên chung đến việc xuất toàn bộ văn bản email bao gồm tiêu đề, số tài khoản và mã xác nhận.

Google sử dụng các công cụ làm sạch tự động bằng biểu thức chính quy (regex) và nhận dạng thực thể có tên (NER) để ẩn danh hóa dữ liệu. Tuy nhiên, các công cụ này không đủ khả năng bảo vệ dữ liệu dạng tường thuật. Các định danh phức tạp như sự kết hợp giữa tên, thành phố và sự kiện cụ thể, hoặc dữ liệu có cấu trúc như số tài khoản nằm trong câu, thường vượt qua các bộ lọc này. Do đó, các tệp đầy đủ được thu nạp theo xác suất trong cuộc trò chuyện thông thường vẫn chịu sự xem xét bởi nhà thầu là con người.

Chi tiết chính

• Google đã cập nhật lập trường về quyền riêng tư trong Google Help Answer 16836988 và chỉnh sửa bài đăng blog ngày 16 tháng 10.
• Nội dung cá nhân từ Gmail, Docs và Drive hiện có thể hiển thị cho người xem xét là con người.
• Việc thu nạp dữ liệu diễn ra tự động mà không cần gắn thẻ @Drive hoặc @Gmail tường minh.
• Quy trình truy xuất mang tính xác suất, tạo ra bốn trạng thái có thể từ không truy xuất đến thu nạp toàn bộ tệp.
• Các công cụ làm sạch tự động không đủ khả năng ẩn danh hóa dữ liệu tường thuật và PII kết hợp.
• Người dùng được khuyến cáo không kết nối các ứng dụng chứa thông tin mật với Gemini dành cho người dùng phổ thông.

Tại sao điều này quan trọng

Đối với kỹ sư phần mềm và trưởng nhóm kỹ thuật, sự thay đổi này phá vỡ giả định về quyền riêng tư tự động trong các quy trình làm việc tích hợp AI. Nhiều tổ chức dựa vào tiền đề rằng trợ lý AI xử lý dữ liệu bằng thuật toán mà không có sự giám sát của con người. Việc đưa sự xem xét của con người vào vòng lặp cho các công cụ AI cấp người dùng phổ thông có nghĩa là bất kỳ logic kinh doanh nhạy cảm, dữ liệu khách hàng hay tài liệu nội bộ nào được chia sẻ qua các ứng dụng kết nối đều không còn riêng tư theo thiết kế.

Thay đổi này cũng nêu bật những hạn chế của các kỹ thuật che giấu tự động hiện tại. Việc dựa vào regex và NER để tuân thủ quyền riêng tư là không đủ khi xử lý dữ liệu tường thuật phức tạp, phi cấu trúc. Các kỹ sư xây dựng sản phẩm tích hợp với LLMs phải nhận ra rằng các chế độ "riêng tư" trong công cụ người dùng phổ thông vẫn có thể liên quan đến quy trình đảm bảo chất lượng hoặc đánh giá an toàn có sự tham gia của con người, phơi bày thông tin độc quyền hoặc cá nhân cho bên thứ ba.

Bạn có thể làm gì

• Kiểm tra cài đặt Gemini của bạn và tắt Connected Apps nếu bạn xử lý dữ liệu mật.
• Tránh nhắc đến các chủ đề nhạy cảm như hóa đơn, đặt chỗ hoặc chi tiết tài khoản trong các cuộc trò chuyện thông thường.
• Giả định rằng bất kỳ dữ liệu nào được AI truy xuất đều có thể được nhìn thấy bởi người xem xét là con người.
• Không dựa vào các công cụ làm sạch tự động để bảo vệ PII phức tạp hoặc ngữ cảnh tường thuật.
• Tự kiểm tra các instance của bạn bằng cách yêu cầu mô hình hiển thị các khối siêu dữ liệu được truy xuất.
• Sử dụng giải pháp tự host hoặc cấp doanh nghiệp với các đảm bảo cô lập dữ liệu nghiêm ngặt cho công việc nhạy cảm.