Tin AI

Gemini Decision 1 không phát hiện được giọng nói AI tạo ra sau năm 2024

Mô hình đa phương thức mới của Google có thể phân biệt giọng nói tổng hợp cũ nhưng chỉ đạt mức ngẫu nhiên đối với các giọng nói từ năm 2025 và 2026.

Một quả cầu thủy tinh được chia thành hai nửa sóng âm thanh rõ nét và mờ ảo.
Minh họa được tạo riêng cho bài viết này

Được dịch tự động từ bản gốc tiếng Anh.

Google đã phát hành Gemini Decision 1, một mô hình quyết định đa phương thức, vào ngày 11 tháng 11 năm 2026. Các phân tích thực nghiệm gần đây cho thấy mặc dù mô hình này có thể tách biệt giọng nói do AI tạo ra khỏi giọng nói con người nếu công cụ tạo sinh được công bố trước năm 2025, nó lại thất bại với các hệ thống mới hơn. Đối với âm thanh được tạo trong năm 2025 và 2026, hiệu suất của mô hình giảm xuống gần mức đoán ngẫu nhiên.

Chuyện gì đã xảy ra

Một phân tích độc lập đã kiểm thử Gemini Decision 1 trên bộ dữ liệu gồm 34 công cụ tạo giọng nói AI khác nhau. Bài kiểm tra sử dụng 30 đoạn âm thanh từ mỗi công cụ, so sánh chúng với 200 đoạn sách nói của con người từ bộ dữ liệu LibriTTS. Mục tiêu là xác định xem mô hình có thể nhận diện đáng tin cậy giọng nói tổng hợp hay không. Kết quả cho thấy sự phân chia rõ rệt dựa trên ngày phát hành của công nghệ tạo giọng nói.

Các công cụ được phát hành từ năm 2017 đến 2024 được tách biệt khỏi giọng nói con người với điểm số Diện tích dưới đường cong (AUC) là 0,67. Điều này cho thấy khả năng trung bình trong việc phân biệt âm thanh tổng hợp và âm thanh thật. Tuy nhiên, đối với các công cụ được phát hành vào năm 2025 và 2026, điểm AUC giảm xuống còn 0,52. Một điểm AUC bằng 0,5 đại diện cho việc đoán ngẫu nhiên, nghĩa là mô hình về cơ bản không thể phân biệt những giọng nói AI mới này với các bản ghi âm của con người.

Nghiên cứu cũng ghi nhận một thiên kiến mạnh mẽ trong mô hình khi gán nhãn âm thanh là do con người tạo ra. Trong số 1.020 đoạn clip do AI tạo ra được kiểm thử, chỉ có 20 đoạn được gán xác suất 50% hoặc cao hơn là do AI tạo ra. Bất chấp thiên kiến này, xếp hạng tương đối của các xác suất vẫn cho phép tính toán hiệu suất tách biệt. Sự sụt giảm hiệu suất không diễn ra dần dần; nó xảy ra đột ngột vào đầu năm 2025, cho thấy một bước nhảy vọt đáng kể về độ chân thực của các mô hình chuyển văn bản thành giọng nói mới hơn.

Cách hoạt động

Việc đánh giá sử dụng ba định dạng nhắc lệnh (prompting) khác nhau để truy vấn Gemini Decision 1: một câu hỏi nhị phân đơn giản, một câu hỏi dựa trên tiêu chí và một thang đo năm điểm dao động từ "Chắc chắn là thật" đến "Chắc chắn là do AI tạo ra". Định dạng Criteria Noul mang lại điểm số tách biệt cao nhất cho các mô hình cũ. Để đảm bảo kết quả dựa trên nội dung âm thanh chứ không phải các đặc điểm kỹ thuật của tệp, mọi đoạn clip đều được xử lý trước khi kiểm thử. Dữ liệu siêu metadata bị loại bỏ, và âm thanh được mã hóa lại bằng ffmpeg thành các tệp MP3 mono ở tốc độ bit 128 kbps. Các đoạn clip cũng được giới hạn băng thông ở 8 kHz và chuẩn hóa độ lớn để loại bỏ các biến thể kỹ thuật có thể đóng vai trò là manh mối ngoài ý muốn.

Hiệu suất của Gemini Decision 1 được so sánh với dữ liệu nhận thức của con người từ một nghiên cứu nghe nhìn năm 2026 liên quan đến 1.768 người tham gia. Có một tương quan dương vừa phải (r = +0,57) giữa các công cụ lừa được con người và những công cụ lừa được mô hình. Tuy nhiên, có những khác biệt đáng kể. Ví dụ, Griffin-Lim, một phương pháp xử lý tín hiệu từ năm 1984, dễ dàng được con người nhận diện (72% chính xác) nhưng gần như làm bối rối mô hình (AUC 0,53). Ngược lại, Cartesia Sonic-3 là khó nhất đối với con người (32% chính xác) và cũng nằm ở mức ngẫu nhiên đối với mô hình (AUC 0,51).

Chi tiết chính

  • Gemini Decision 1 được Google phát hành vào ngày 11 tháng 11 năm 2026.
  • Mô hình đạt điểm AUC 0,67 đối với giọng nói AI được tạo bởi các công cụ phát hành trước năm 2025.
  • Đối với giọng nói AI từ năm 2025 và 2026, điểm AUC của mô hình giảm xuống còn 0,52, tương đương với mức đoán ngẫu nhiên.
  • Chỉ có một công cụ tạo sinh từ giai đoạn 2025-2026, Inworld TTS-2, cho thấy khoảng tin cậy hơi cao hơn mức ngẫu nhiên (0,51-0,75).
  • Mô hình có thiên kiến mạnh mẽ khi gán nhãn âm thanh là của con người, chỉ xác định 20 trong số 1.020 đoạn clip AI là có khả năng tổng hợp.
  • Các đoạn clip âm thanh đã bị loại bỏ metadata và được chuẩn hóa để ngăn chặn các đặc điểm kỹ thuật ảnh hưởng đến việc phát hiện.

Tại sao điều này quan trọng

Đối với các nhà phát triển xây dựng hệ thống kiểm duyệt nội dung hoặc xác thực, phát hiện này báo hiệu rằng việc phụ thuộc vào các mô hình đa phương thức thế hệ hiện tại để phát hiện deepfake đang trở nên kém tin cậy hơn. Sự suy giảm đột ngột trong khả năng phát hiện đối với các mô hình sau năm 2024 cho thấy công nghệ giọng nói tổng hợp đã vượt qua một ngưỡng mà các đặc điểm âm học không còn đủ để nhận diện. Các hệ thống phụ thuộc vào việc phát hiện các dấu vết kỹ thuật số tinh vi trong sóng âm thanh có thể cần được tái kiến trúc hoặc bổ sung bằng các phương pháp xác minh khác, chẳng hạn như đóng watermark hoặc nguồn gốc mật mã.

Sự tương đồng giữa các chế độ thất bại của con người và máy móc cũng nhấn mạnh một thách thức ngày càng tăng trong lòng tin của người dùng. Nếu cả con người lẫn các mô hình AI tiên tiến đều không thể phân biệt đáng tin cậy giọng nói tổng hợp gần đây với giọng nói thật, tiềm năng gian lận và thông tin sai lệch sẽ tăng lên đáng kể. Các kỹ sư phải giả định rằng bất kỳ đầu vào âm thanh nào cũng có thể là tổng hợp và thiết kế các quy trình làm việc không chỉ dựa vào tính chân thực cảm giác. Sự thay đổi này đòi hỏi phải chuyển sang các kiến trúc zero-trust (không tin tưởng mặc định) cho các đầu vào truyền thông trong các ứng dụng nhạy cảm.

Bạn có thể làm gì

  • Không chỉ dựa vào Gemini Decision 1 hoặc các mô hình tương tự để phát hiện giọng nói AI được tạo từ năm 2025 trở đi.
  • Triển khai đóng watermark âm thanh hoặc ký mật mã cho tất cả nội dung giọng nói hợp lệ để thiết lập nguồn gốc.
  • Sử dụng xác thực đa yếu tố cho các hệ thống dựa trên giọng nói, kết hợp phân tích âm thanh với sinh trắc học hành vi hoặc kiểm tra thiết bị.
  • Theo dõi các bản cập nhật từ các nhà phát triển công cụ tạo giọng nói, vì khả năng phát hiện có thể tụt hậu so với chất lượng tạo sinh.
  • Kiểm thử các pipeline phát hiện của bạn với các mô hình TTS mã nguồn mở mới nhất để đánh giá mức độ dễ bị tổn thương hiện tại.
  • Giáo dục người dùng về những hạn chế của các công cụ phát hiện AI để quản lý kỳ vọng về bảo mật và tính xác thực.
  • #ai detection
  • #deepfakes
  • #gemini
  • #audio synthesis
  • #machine learning

Công cụ từ cửa hàng Bytechap

$89

DocBento

Hệ thống quản lý tài liệu tự host, có khả năng đọc mọi bản quét và trả lời kèm trích dẫn trang cụ thể.

Demo trực tiếp

Đọc tiếp

Tin AI

Động lực đẩy mạnh vào thị trường doanh nghiệp của Anthropic làm dấy lên lo ngại cạnh tranh cho các nhà phát triển Claude

Anthropic đang mở rộng sang lĩnh vực phần mềm doanh nghiệp với các công cụ mới, khiến các nhà sáng lập lo lắng rằng nhà cung cấp mô hình này có thể cạnh tranh trực tiếp với các ứng dụng bên thứ ba được xây dựng trên nền tảng của họ.

Tất cả bài viết