IA abierta y local

Reflection AI lanza Beam, un modelo de pesos abiertos y bajo costo para razonamiento

Reflection AI ha presentado Beam, un modelo de pesos abiertos que afirma igualar a sus rivales chinos en capacidad de razonamiento mientras utiliza significativamente menos recursos informáticos para la inferencia.

A metallic cube with glowing circuits floating above server racks.
Ilustración generada para este artículo

Traducido automáticamente del original en inglés.

Reflection AI, una startup con sede en Brooklyn fundada en 2024, ha lanzado oficialmente Beam, su primer modelo de inteligencia artificial de frontera con pesos abiertos. Este lanzamiento marca una entrada significativa en el competitivo panorama de los grandes modelos de lenguaje, posicionando a Beam como una alternativa rentable tanto frente a sistemas de código cerrado como frente a las opciones existentes de pesos abiertos provenientes de China y Occidente.

Qué ocurrió

La empresa describe Beam como un modelo de texto puro basado en una arquitectura de mezcla de expertos (mixture-of-experts), diseñado específicamente para tareas avanzadas de razonamiento, programación y agentes autónomos. Según Reflection, el modelo ofrece un rendimiento comparable al de los principales modelos abiertos chinos en pruebas complejas, pero opera con una fracción del coste por token y de la potencia informática necesaria para la inferencia que requieren sus rivales. Este anuncio confirma informes previos que indicaban que la startup estaba cerca de su lanzamiento público.

Beam cuenta con un total de 501 mil millones de parámetros, con 23 mil millones de parámetros activos durante la fase de inferencia. Fue preentrenado con un masivo conjunto de datos de 23,8 billones de tokens y admite una ventana de contexto de 1 millón de tokens. Para comparar, el modelo GLM-5.2 de Z.ai contiene aproximadamente 744 mil millones de parámetros totales con 40 mil millones activos. Reflection afirma que, aunque sus métricas de rendimiento aún no han sido verificadas de forma independiente, las pruebas internas muestran que Beam obtiene puntuaciones similares a las de GLM-5.2 y supera a los actuales líderes occidentales en modelos abiertos.

La startup está posicionando a Beam directamente contra grandes jugadores como Anthropic, OpenAI, Mistral, Meta y Cohere. Su competidor nacional más inmediato podría ser Inkling, el modelo abierto lanzado en julio por Thinking Machines Lab. Los datos de Reflection sugieren que Beam supera a Inkling en cuatro pruebas específicas de codificación, aunque es importante señalar que Inkling es multimodal mientras que Beam es solo de texto. La compañía pretende publicar los pesos del modelo y todos los detalles técnicos a finales de este mes, con una distribución planificada a través de hyperscalers, neoclouds y bibliotecas de código abierto.

Cómo funciona

Beam utiliza una arquitectura de mezcla de expertos, una decisión de diseño que permite al modelo activar solo un subconjunto de sus parámetros totales para cualquier entrada dada. Esta dispersión permite al modelo mantener un alto número total de parámetros para la retención de conocimiento, manteniendo al mismo tiempo un bajo recuento de parámetros activos durante la operación. El resultado es una reducción de la carga computacional durante la inferencia, lo que según Reflection conduce a un uso de 3 a 4 veces menor de recursos informáticos para la inferencia en comparación con los competidores.

El modelo fue entrenado utilizando técnicas de aprendizaje por refuerzo de alta intensidad computacional. Este enfoque de entrenamiento se centra en optimizar la capacidad del modelo para razonar a través de problemas complejos, en lugar de limitarse a predecir la siguiente palabra en una secuencia. Al priorizar las capacidades de razonamiento, el modelo busca gestionar tareas de agentes y desafíos de programación de manera más efectiva de lo que permitirían los métodos tradicionales de preentrenamiento por sí solos.

Detalles clave

  • Beam es un modelo de 501 mil millones de parámetros con 23 mil millones de parámetros activos por paso de inferencia.
  • El modelo fue preentrenado con 23,8 billones de tokens y admite una ventana de contexto de 1 millón de tokens.
  • Reflection afirma que Beam utiliza entre 3 y 4 veces menos recursos informáticos para la inferencia que los modelos rivales, igualando su rendimiento en pruebas de razonamiento.
  • La startup ha recaudado aproximadamente 4.700 millones de dólares, con inversores como Nvidia, Sequoia Capital y Lightspeed Venture Partners.
  • Reflection ha asegurado acuerdos por valor de más de 7.000 millones de dólares con SpaceX y Nebius para acceder a chips Nvidia GB300 hasta 2029.
  • La empresa promueve el concepto de "fábrica de IA", permitiendo a empresas y naciones soberanas entrenar sistemas locales de IA personalizados sobre datos propietarios.

Por qué importa

Para ingenieros de software y líderes técnicos, la promesa de menores costes de inferencia es crítica. A medida que las aplicaciones de IA pasan de prototipos experimentales a entornos de producción, el coste de ejecutar modelos grandes puede volverse prohibitivo. Un modelo que ofrezca capacidades de razonamiento de nivel frontera a un coste computacional significativamente menor podría hacer viables funciones avanzadas de IA para una gama más amplia de productos y servicios. Esta ganancia de eficiencia es particularmente relevante para equipos que construyen flujos de trabajo agénticos o asistentes de codificación complejos, donde la latencia y el coste son restricciones primarias.

Además, el lanzamiento intensifica la competencia entre los modelos de pesos abiertos occidentales y chinos. Los desarrolladores que han dependido de modelos de laboratorios chinos para obtener rendimiento rentable ahora tienen una alternativa nacional que afirma una eficiencia similar. Esta diversificación reduce la dependencia de cualquier región geográfica única para la infraestructura fundamental de IA. También presiona a otros proveedores occidentales para que optimicen sus propios modelos en términos de eficiencia, lo que podría acelerar la innovación en arquitecturas dispersas y métodos de entrenamiento de aprendizaje por refuerzo en toda la industria.

Qué puedes hacer

  • Supervisa el lanzamiento oficial de los pesos de Beam y la documentación técnica a finales de este mes para evaluar la compatibilidad con tu infraestructura actual.
  • Evalúa la reducción afirmada de 3 a 4 veces en los recursos de inferencia frente a los requisitos específicos de tu carga de trabajo, teniendo en cuenta que estas cifras son actualmente autorreportadas.
  • Compara las capacidades solo de texto de Beam frente a alternativas multimodales como Inkling si tu caso de uso requiere ese tipo de funcionalidad.

Herramientas de la Tienda de Bytechap

$89

DocBento

Gestión documental autoalojada que lee cada escaneo y responde con citas de página.

Demo en vivo

Seguir leyendo

Todos los artículos