Recursive lanza Flint, un modelo de programación listo para portátiles creado por IA

Recursive, una startup de IA dirigida por Richard Socher, ex científico jefe de Salesforce, ha publicado su primer modelo público, Flint. Lanzado el miércoles, este asistente de codificación gratuito está diseñado para ejecutarse completamente en hardware local, como un portátil estándar, en lugar de depender de la infraestructura en la nube. Este lanzamiento marca un paso significativo en la misión de la empresa de desarrollar sistemas de IA capaces de mejorarse a sí mismos mediante investigación automatizada.

Qué ha ocurrido

Flint es un modelo de codificación de pesos abiertos disponible para descargar en Hugging Face bajo la licencia Apache 2.0. Esta elección de licencia permite a los desarrolladores usar, modificar y distribuir el modelo libremente. Al ejecutarse localmente, el modelo permite a los usuarios mantener su código privado, trabajar sin conexión y evitar las tarifas de uso basadas en tokens comunes en los servicios de IA alojados en la nube. Recursive salió del anonimato a principios de este año con un respaldo sustancial, incluyendo $650 millones en financiación con una valoración de $4.65 mil millones por parte de inversores como GV, Nvidia y AMD Ventures.

El proceso de desarrollo fue fuertemente automatizado. Recursive informa que su sistema interno de investigación automatizada, llamado Eureka Machine, asistió en casi todas las etapas de la creación de Flint. Esta asistencia permitió a un pequeño equipo humano construir el modelo desde cero en menos de cuatro meses. La empresa posiciona Flint como una prueba práctica temprana de la auto-mejora recursiva, un concepto donde los sistemas de IA ayudan a diseñar y entrenar modelos de IA posteriores y más capaces. Mientras algunos observadores de la industria se preocupan por las implicaciones de seguridad de la IA auto-mejorante, Recursive mantiene que los humanos supervisan actualmente la Eureka Machine y pueden intervenir si es necesario.

Cómo funciona

Flint utiliza una arquitectura de mezcla de expertos, un diseño que activa solo un subconjunto de los parámetros del modelo para cualquier tarea dada. Aunque Flint contiene 40 mil millones de parámetros en total, solo usa 2.5 mil millones a la vez. Esta escasez hace que el modelo sea significativamente más ligero y rápido que los modelos densos de tamaño total similar. Para comparar, el modelo Muse Spark Open recientemente lanzado por Meta utiliza 816 mil millones de parámetros y requiere al menos un terabyte de memoria, mientras que Flint está optimizado para portátiles de consumo ordinarios.

La Eureka Machine contribuyó con optimizaciones técnicas específicas para lograr esta eficiencia. Según Recursive, el sistema ayudó a diseñar una forma de modelo más escasa e implementó técnicas de entrenamiento de baja precisión que redujeron el tamaño del modelo en un 71% con una pérdida mínima de calidad. También desarrolló kernels personalizados, que son rutinas de software especializadas que aceleran los cálculos matemáticos subyacentes. Estas innovaciones permiten a Flint generar texto rápidamente en hardware de consumo sin sacrificar demasiado rendimiento.

Detalles clave

• Flint genera aproximadamente 131 tokens por segundo en un MacBook Pro con un chip Apple M4 Pro, aproximadamente el doble de velocidad que modelos comparables como Gemma 4 de Google.
• En el hardware RTX Spark de Nvidia, el modelo alcanzó velocidades superiores a 150 tokens por segundo.
• En las pruebas SWE-Bench Verified, que miden capacidades de corrección de errores, Flint superó a otros modelos con menos de 50 mil millones de parámetros.
• El modelo fue construido en menos de cuatro meses con una asistencia significativa del sistema automatizado Eureka Machine de Recursive.
• Flint es gratuito para descargar y usar bajo la licencia de código abierto Apache 2.0.
• Pruebas independientes tempranas realizadas por Will Knight de Wired mostraron que el modelo completó exitosamente tareas de codificación en una Mac con 48GB de memoria.

Por qué importa

Para ingenieros de software y fundadores técnicos, el cambio hacia modelos locales de alto rendimiento reduce la dependencia de proveedores de API de terceros. Ejecutar la generación de código localmente elimina los problemas de latencia asociados con las solicitudes de red y garantiza que las bases de código propietarias nunca salgan de la máquina del desarrollador. Esto es particularmente valioso para equipos que trabajan en industrias reguladas o aquellos que manejan propiedad intelectual sensible que no pueden usar servicios públicos de IA en la nube.

Además, Flint demuestra el impacto acelerador de la investigación asistida por IA. Si los sistemas automatizados como la Eureka Machine pueden realmente comprimir los ciclos de desarrollo de años a meses, el ritmo de innovación en la IA de código abierto podría aumentar dramáticamente. Sin embargo, los desarrolladores deben notar que los modelos locales aún requieren una guía más explícita que los grandes asistentes basados en la nube. Recursive aconseja dividir tareas complejas en pasos más pequeños para obtener los mejores resultados, indicando que aunque la tecnología es poderosa, aún no es un reemplazo totalmente autónomo para el juicio de ingeniería senior.

Qué puedes hacer

• Descarga Flint desde Hugging Face para probar su rendimiento en tu configuración de hardware local.
• Refactoriza grandes prompts de codificación en tareas pequeñas y discretas para mejorar la precisión y confiabilidad del modelo.
• Compara la velocidad de generación de tokens de Flint contra tus modelos locales actuales utilizando herramientas estándar de benchmarking.
• Revisa los términos de la licencia Apache 2.0 para asegurar el cumplimiento con las políticas de uso de código abierto de tu organización.
• Experimenta con flujos de trabajo sin conexión para identificar qué partes de tu pipeline de desarrollo pueden operar sin acceso a internet.
• Monitorea las actualizaciones de Recursive sobre la Eureka Machine para entender cómo futuras iteraciones podrían automatizar aún más la optimización del modelo.