IA abierta y local

BotPsy lleva la IA agéntica de menos de mil millones de parámetros a los dispositivos edge

Tether AI Research lanza BotPsy, un modelo de pesos abiertos con 0.8B de parámetros optimizado para el uso de herramientas en el dispositivo y la privacidad.

Un smartphone mostrando una red neuronal en un microchip, simbolizando la IA en el dispositivo.
Ilustración generada para este artículo

Traducido automáticamente del original en inglés.

Tether AI Research ha presentado BotPsy, un nuevo modelo de lenguaje con 0.8B de parámetros diseñado específicamente para flujos de trabajo agénticos en el dispositivo. Publicado en noviembre de 2026, este modelo de pesos abiertos busca ofrecer funciones de asistente personal competentes manteniendo los datos del usuario locales y reduciendo la dependencia de la infraestructura en la nube.

Qué ha ocurrido

Los grandes modelos de lenguaje (LLM) en la nube ofrecen una capacidad inmensa, pero conllevan costes operativos significativos y riesgos de privacidad. Los proveedores pueden cambiar las condiciones de acceso, retirar APIs o modificar modelos sin previo aviso, creando vulnerabilidades para los desarrolladores que construyen productos dependientes. Además, no todas las tareas requieren la potencia total de un modelo masivo, lo que conduce a un uso ineficiente de recursos para cargas de trabajo simples y rutinarias.

Para abordar estos desafíos, Tether AI Research desarrolló BotPsy, un agente pequeño especializado construido sobre Qwen3.5-0.8B. El modelo está optimizado para la llamada de funciones y el uso de herramientas, lo que le permite realizar tareas como búsqueda web, gestión de calendario, manejo de archivos y control de dispositivos directamente en el hardware del usuario. Al centrarse en tareas de dificultad baja a media, BotPsy ofrece alta eficiencia y fiabilidad en el seguimiento de instrucciones sin la latencia ni el coste de la inferencia basada en la nube.

La publicación incluye pesos abiertos bajo la licencia Apache 2.0, haciéndolo accesible para fines de investigación y educativos. Está disponible en múltiples precisiones, incluyendo bf16, Q8 y Q4, y se distribuye como archivos safetensors de Hugging Face y GGUF compatibles con llama.cpp y el SDK QVAC.

Cómo funciona

BotPsy aprovecha una arquitectura compacta para lograr un rendimiento de vanguardia en su clase de tamaño. A pesar de tener solo 0.8 mil millones de parámetros, supera a modelos más grandes como Qwen3.5-2B-Think en cinco de seis principales benchmarks agénticos. Esta eficiencia se logra mediante un entrenamiento especializado que mejora las capacidades de uso de herramientas mientras preserva el conocimiento general.

El modelo destaca por saber cuándo actuar y cuándo abstenerse. En pruebas de alucinación, rechaza correctamente usar herramientas cuando no existe una opción apropiada, obteniendo una puntuación de 86.1 en BFCL v4. También maneja eficazmente conversaciones multivuelta, manteniendo el contexto y siguiendo políticas estrictas en escenarios complejos como interacciones de servicio al cliente. Esto reduce la probabilidad de bucles de razonamiento repetitivos, que cayeron del 22.9% en el modelo base a solo el 1.4% en BotPsy.

La implementación está simplificada para entornos edge. La disponibilidad de formatos GGUF cuantizados permite a los desarrolladores ejecutar el modelo en dispositivos con memoria y potencia de cómputo limitadas. Esta ejecución local garantiza que los datos sensibles, como correos electrónicos o registros financieros, nunca abandonen el dispositivo del usuario, abordando las principales preocupaciones de privacidad asociadas con los asistentes basados en la nube.

Detalles clave

  • BotPsy es un modelo de 0.8B de parámetros construido sobre Qwen3.5-0.8B, optimizado para tareas agénticas en el dispositivo.
  • Supera a todos los modelos probados con hasta 1.2B de parámetros en seis benchmarks de uso de herramientas y agénticos.
  • El modelo reduce los tokens de razonamiento aproximadamente 3x en comparación con su modelo base en tareas complejas.
  • Las mejoras de seguridad incluyen una tasa de respuestas inseguras del 21% en red-teaming, inferior a cualquier modelo comparable.
  • Disponible en precisiones bf16, Q8 y Q4 como archivos safetensors y GGUF para una fácil integración.
  • Licenciado bajo Apache 2.0 para uso investigativo y educativo, con limitaciones claras para aplicaciones de alto riesgo.

Por qué importa

Para ingenieros de software y fundadores técnicos, BotPsy representa un cambio hacia aplicaciones de IA descentralizadas y centradas en la privacidad. Al permitir que agentes competentes se ejecuten localmente, los desarrolladores pueden construir productos que no dependen de la disponibilidad de APIs externas ni incurren en costes variables en la nube. Esta estabilidad es crucial para aplicaciones que requieren un rendimiento consistente y soberanía de datos, como gestores de finanzas personales o procesadores de documentos empresariales.

Las ganancias de eficiencia también se traducen en mejores experiencias de usuario. Una menor latencia y un reducido uso de tokens significan tiempos de respuesta más rápidos en dispositivos móviles y portátiles. Los desarrolladores pueden integrar características inteligentes sin preocuparse por el drenaje de batería o la generación excesiva de calor, problemas comunes con modelos más grandes ejecutándose en hardware edge. Esto abre nuevas posibilidades para asistentes siempre activos que respetan la privacidad del usuario mientras entregan utilidad tangible.

Qué puedes hacer

  • Descarga los pesos del modelo BotPsy desde Hugging Face en formato safetensors o GGUF.
  • Prueba el modelo usando llama.cpp o el SDK QVAC para evaluar el rendimiento en tu hardware objetivo.
  • Compara BotPsy con tus soluciones actuales en el dispositivo utilizando métricas BFCL v4 o ACEBench.
  • Explora la integración en apps existentes para tareas como programación de calendarios o búsqueda local de archivos.
  • Revisa las limitaciones de uso previsto para asegurar una aplicación adecuada en dominios de dificultad baja a media.
  • Contribuye a la comunidad open-source compartiendo comentarios o resultados de fine-tuning para flujos de trabajo específicos.
  • #ai
  • #edge computing
  • #open source
  • #llm
  • #privacy

Herramientas de la Tienda de Bytechap

$89

DocBento

Gestión documental autoalojada que lee cada escaneo y responde con citas de página.

Demo en vivo

Seguir leyendo

Todos los artículos