Los agentes de IA prometen privacidad, pero tienen dificultades para garantizar la seguridad

En el OpenAI DevDay de finales de septiembre de 2026, el CEO Sam Altman presentó Dots, posicionándolo como un sucesor centrado en la privacidad frente al Muse de Meta. Este lanzamiento continúa un ciclo en el que las grandes empresas tecnológicas afirman que sus últimos agentes de IA son más seguros que los de la competencia, incluso mientras las versiones anteriores enfrentan un escrutinio de seguridad significativo.

Qué ocurrió

Meta lanzó su agente Muse unos meses antes del anuncio de OpenAI, comercializándolo como una actualización segura respecto a su predecesor, OpenClaw. El CEO Mark Zuckerberg declaró que Muse fue construido desde cero con la privacidad y la seguridad en mente, con el objetivo de escalar de forma segura hasta miles de millones de usuarios. La empresa enfatizó que la mayor parte del esfuerzo de ingeniería se destinó a una operación segura, reconociendo que aún podrían ocurrir errores, pero serían menos frecuentes y dañinos gracias a los sistemas de seguridad integrados.

A pesar de estas garantías, Muse enfrentó desafíos inmediatos. Un investigador de seguridad descubrió una vulnerabilidad de día cero que podría permitir el control externo del agente, aunque esta fue corregida rápidamente. Informes de 404 Media indicaron que surgieron múltiples problemas graves de seguridad justo antes del lanzamiento, incluido uno que potencialmente permitía a los usuarios acceder a las bases de datos internas de Meta. Además, aunque Meta planea introducir la verificación criptográfica más adelante este año para evitar su propio acceso a los datos de los usuarios, la empresa conserva actualmente la capacidad de ver la información almacenada en las máquinas virtuales aisladas.

OpenAI aprovechó estas deficiencias durante su presentación en el DevDay. Los ejecutivos criticaron la gestión de los datos de los usuarios por parte de Meta mientras destacaban características de Dots, como los controles empresariales y las opciones de retención cero de datos. Glen Coates, jefe de plataforma de aplicaciones de OpenAI, señaló que la gran base de usuarios existente de Meta hace más difícil evitar errores, implicando que el enfoque de OpenAI permite una mayor cautela en el despliegue. Sin embargo, Dots está limitado actualmente a las suscripciones de ChatGPT de nivel superior, lo que puede limitar su exposición a incidentes generalizados de privacidad en comparación con la rápida adopción de Muse.

Cómo funciona

Muse almacena los datos de los usuarios en lo que Meta describe como una computadora Linux aislada con su propio navegador, CPU, memoria y almacenamiento. Esta arquitectura de máquina virtual (VM) está diseñada para mantener los datos individuales de cada usuario separados de los demás. El objetivo es crear un entorno aislado (sandbox) donde el agente pueda operar sin exponer los datos a la red más amplia o a otros usuarios. Sin embargo, el aislamiento de otros usuarios no equivale al aislamiento del proveedor, ya que Meta aún puede acceder a los datos dentro de estas VMs hasta que se publiquen las actualizaciones criptográficas planificadas.

Dots, por el contrario, ofrece a las empresas un mayor control sobre el manejo de datos, incluidas opciones de retención cero de datos. Esto significa que para ciertos casos de uso empresarial, no se almacenan datos en los servidores de OpenAI después del procesamiento. Los usuarios también pueden establecer reglas específicas para sus agentes, como limitar los montos de compra, para mantener el control sobre las acciones autónomas. Estos mecanismos buscan reducir el riesgo de exposición involuntaria de datos o transacciones financieras no autorizadas.

Detalles clave

• Muse ganó 600.000 usuarios activos diarios en EE. UU. en pocas semanas tras su lanzamiento, según Apptopia.
• Una vulnerabilidad de día cero en Muse permitió un posible control externo, pero ha sido corregida desde entonces.
• Muse permite por defecto que Meta entrene modelos con los datos de los usuarios, aunque los usuarios pueden optar por no participar.
• Entre los incidentes se incluyen lecturas de mensajes privados por parte de Muse sin solicitudes explícitas y la compartición de la dirección de un usuario a través de Marketplace.
• Dots solo está disponible en niveles de suscripción de ChatGPT que cuestan $100 o más al mes.
• OpenAI ofrece políticas de retención cero de datos para clientes empresariales que utilizan Dots.

Por qué importa

Para los desarrolladores y líderes técnicos, estos incidentes resaltan la brecha entre las afirmaciones de marketing y la realidad técnica en el despliegue de agentes de IA. La promesa de entornos aislados como las VMs proporciona una capa de seguridad, pero no elimina los riesgos derivados del acceso del proveedor o de las vulnerabilidades del software. Los equipos que construyen productos con agentes de IA deben examinar minuciosamente cómo se almacenan los datos, quién puede acceder a ellos y qué permisos predeterminados se otorgan. Confiar en las garantías del proveedor sin verificación independiente puede conducir a filtraciones de datos inesperadas o violaciones de cumplimiento normativo.

La dinámica competitiva entre Meta y OpenAI también afecta la estrategia de producto. A medida que las empresas compiten por añadir funciones de privacidad, el enfoque suele desplazarse hacia diferenciarse de los competidores en lugar de resolver problemas fundamentales de confianza. Los usuarios siguen siendo reacios a compartir información sensible, como detalles bancarios, con agentes que han demostrado comportamientos impredecibles. Esta vacilación ralentiza la adopción y obliga a los ingenieros a diseñar mecanismos de consentimiento y control más robustos en sus aplicaciones.

Qué puedes hacer

• Audita las políticas predeterminadas de retención y entrenamiento de datos de cualquier plataforma de agentes de IA que integres.
• Implementa flujos estrictos de consentimiento del usuario para acceder a datos sensibles como mensajes o información financiera.
• Prueba casos límite donde los agentes podrían compartir datos personales involuntariamente, como fugas de direcciones.
• Prefiere plataformas que ofrezcan aislamiento verificable u opciones de retención cero de datos para tareas críticas.
• Monitorea avisos de seguridad sobre vulnerabilidades de día cero en frameworks de agentes y aplica parches rápidamente.
• Educa a los usuarios sobre los límites de la privacidad de los agentes y proporciona mecanismos claros de exclusión (opt-out) para el uso de datos.