Gemini Decision 1 no detecta voces de IA generadas después de 2024
El nuevo modelo multimodal de Google puede distinguir el habla sintética más antigua, pero su rendimiento es aleatorio con las voces de 2025 y 2026.
Traducido automáticamente del original en inglés.
Google lanzó Gemini Decision 1, un modelo de decisión multimodal, el 11 de noviembre de 2026. Un análisis empírico reciente revela que, aunque el modelo puede separar las voces generadas por IA de las humanas si el generador se publicó antes de 2025, falla al hacerlo con los sistemas más nuevos. Para el audio creado en 2025 y 2026, el rendimiento del modelo cae a niveles cercanos al azar.
Qué ocurrió
Un análisis independiente probó Gemini Decision 1 contra un conjunto de datos de 34 generadores de voz de IA diferentes. La prueba utilizó 30 clips de audio de cada generador, comparándolos con 200 clips de audiolibros humanos del conjunto de datos LibriTTS. El objetivo era determinar si el modelo podía identificar de manera fiable el habla sintética. Los resultados mostraron una clara división basada en la fecha de lanzamiento de la tecnología del generador de voz.
Los generadores lanzados entre 2017 y 2024 se separaron de las voces humanas con una puntuación de Área Bajo la Curva (AUC) de 0,67. Esto indica una capacidad moderada para distinguir el audio sintético del real. Sin embargo, para los generadores lanzados en 2025 y 2026, la AUC cayó a 0,52. Una AUC de 0,5 representa un acierto aleatorio, lo que significa que el modelo efectivamente no puede diferenciar estas nuevas voces de IA de las grabaciones humanas.
El estudio también observó un fuerte sesgo del modelo hacia etiquetar el audio como hecho por humanos. De los 1.020 clips generados por IA probados, solo 20 recibieron una probabilidad del 50% o superior de ser generados por IA. A pesar de este sesgo, la clasificación relativa de las probabilidades aún permitía calcular el rendimiento de separación. La caída en el rendimiento no fue gradual; ocurrió bruscamente a principios de 2025, lo que sugiere un salto significativo en el realismo de los modelos más recientes de texto a voz.
Cómo funciona
La evaluación utilizó tres formatos diferentes de indicación (prompting) para consultar a Gemini Decision 1: una pregunta binaria simple, una pregunta basada en criterios y una rúbrica de cinco puntos que iba desde "Definitivamente auténtico" hasta "Definitivamente generado por IA". El formato Criteria Noul arrojó las puntuaciones de separación más altas para los modelos antiguos. Para garantizar que los resultados se basaran en el contenido de audio y no en artefactos de archivo, cada clip se procesó antes de la prueba. Se eliminaron los metadatos y el audio se recodificó usando ffmpeg en MP3 mono a 128 kbps. Los clips también se limitaron de banda a 8 kHz y se normalizaron en volumen para eliminar variaciones técnicas que pudieran servir como pistas involuntarias.
El rendimiento de Gemini Decision 1 se comparó con datos de percepción humana de un estudio de escucha de 2026 que involucró a 1.768 personas. Hubo una correlación positiva moderada (r = +0,57) entre los generadores que engañaban a los humanos y aquellos que engañaban al modelo. Sin embargo, hubo discrepancias notables. Por ejemplo, Griffin-Lim, un método de procesamiento de señales de 1984, fue fácilmente identificado por los humanos (72% de aciertos), pero casi confundió al modelo (AUC 0,53). Por el contrario, Cartesia Sonic-3 fue el más difícil para los humanos (32% de aciertos) y también se situó en nivel aleatorio para el modelo (AUC 0,51).
Detalles clave
- Gemini Decision 1 fue lanzado por Google el 11 de noviembre de 2026.
- El modelo logra una AUC de 0,67 para voces de IA generadas por herramientas lanzadas antes de 2025.
- Para voces de IA de 2025 y 2026, la AUC del modelo cae a 0,52, lo cual es efectivamente azar.
- Solo un generador de 2025-2026, Inworld TTS-2, mostró un intervalo de confianza ligeramente superior al azar (0,51-0,75).
- El modelo tiene un fuerte sesgo hacia etiquetar el audio como humano, identificando solo 20 de 1.020 clips de IA como potencialmente sintéticos.
- Los clips de audio fueron despojados de metadatos y normalizados para evitar que los artefactos técnicos influyeran en la detección.
Por qué importa
Para los desarrolladores que construyen sistemas de moderación de contenido o autenticación, este hallazgo señala que depender de los modelos multimodales de generación actual para la detección de deepfakes se vuelve cada vez menos fiable. La caída abrupta en la capacidad de detección para los modelos posteriores a 2024 sugiere que la tecnología de voz sintética ha cruzado un umbral donde los artefactos acústicos ya no son suficientes para la identificación. Los sistemas que dependen de detectar sutiles huellas digitales en las formas de onda de audio pueden necesitar ser re-arquitecturados o complementados con otros métodos de verificación, como marcas de agua o procedencia criptográfica.
La alineación entre los modos de fallo humanos y de máquina también destaca un desafío creciente en la confianza del usuario. Si ni los humanos ni los modelos avanzados de IA pueden distinguir de manera fiable las voces sintéticas recientes de las reales, el potencial de fraude y desinformación aumenta significativamente. Los ingenieros deben asumir que cualquier entrada de audio podría ser sintética y diseñar flujos de trabajo que no dependan únicamente de la autenticidad perceptual. Este cambio requiere una transición hacia arquitecturas de confianza cero para las entradas de medios en aplicaciones sensibles.
Qué puedes hacer
- No confíes únicamente en Gemini Decision 1 o modelos similares para detectar voces de IA generadas en 2025 o después.
- Implementa marcas de agua de audio o firma criptográfica para todo el contenido de voz legítimo para establecer la procedencia.
- Usa autenticación multifactor para sistemas basados en voz, combinando el análisis de audio con biometría conductual o verificaciones de dispositivo.
- Monitorea las actualizaciones de los desarrolladores de generadores de voz, ya que las capacidades de detección pueden quedar rezagadas respecto a la calidad de generación.
- Prueba tus pipelines de detección contra los últimos modelos de TTS de código abierto para evaluar los niveles actuales de vulnerabilidad.
- Educa a los usuarios sobre las limitaciones de las herramientas de detección de IA para gestionar las expectativas respecto a la seguridad y la autenticidad.



