RadixArk, la startup comercial detrás de SGLang, ha alcanzado una valoración de aproximadamente 400 millones de dólares en una ronda de financiación liderada por Accel, según dos fuentes familiarizadas con el asunto. La herramienta de código abierto SGLang es utilizada por empresas como xAI y Cursor para acelerar el entrenamiento de modelos de inteligencia artificial, y parte del equipo responsable de su mantenimiento se ha trasladado a la empresa comercial anunciada en agosto pasado.
Ying Sheng, colaboradora clave de SGLang y ex ingeniera de xAI, dejó la startup de IA de Elon Musk para convertirse en cofundadora y CEO de RadixArk, según un anuncio que realizó en LinkedIn el mes pasado. TechCrunch no pudo confirmar el tamaño exacto de la ronda de financiación, aunque fuentes indicaron que la compañía previamente había recaudado capital ángel de inversores, incluido el CEO de Intel, Lip-Bu Tan.
Origen académico y transición comercial de SGLang
RadixArk se originó como SGLang en 2023 dentro del laboratorio de UC Berkeley dirigido por Ion Stoica, cofundador de Databricks. La transición de proyectos de código abierto hacia startups comerciales representa una tendencia creciente en el ecosistema de infraestructura de IA, donde herramientas desarrolladas inicialmente en entornos académicos encuentran oportunidades de monetización en el mercado empresarial.
Tanto SGLang como RadixArk se centran en optimizar el procesamiento de inferencia, permitiendo que los modelos se ejecuten más rápido y de manera más eficiente en el mismo hardware. Junto con el entrenamiento de modelos, la inferencia representa una gran porción de los costos de servidor asociados con los servicios de IA, lo que convierte a las herramientas de optimización en soluciones capaces de generar ahorros significativos de manera casi inmediata.
Competencia en el sector de optimización de inferencia
vLLM, un proyecto más maduro para optimizar la inferencia que también se originó en el laboratorio de Stoica en UC Berkeley, ha seguido un camino similar. La empresa recientemente formada ha mantenido conversaciones sobre recaudar más de 160 millones de dólares en financiamiento con una valoración de aproximadamente mil millones de dólares, según reportó Forbes el mes pasado.
Tres personas familiarizadas con ese acuerdo informaron a TechCrunch que Andreessen Horowitz está liderando la inversión en vLLM, aunque las cifras finales aún están por verse. Sin embargo, el cofundador de vLLM, Simon Mo, calificó la información sobre esta ronda como “factualmente inexacta” en una declaración a TechCrunch, aunque se negó a especificar qué detalles eran incorrectos.
Adopción empresarial y desarrollos recientes
Varias grandes empresas tecnológicas ya ejecutan sus cargas de trabajo de inferencia utilizando vLLM, y SGLang también ha ganado popularidad significativa en los últimos seis meses, según comentó Brittany Walker, socia general de CRV, a TechCrunch. Su firma no invirtió en ninguna de las dos compañías.
RadixArk continúa desarrollando SGLang como motor de modelos de IA de código abierto. Adicionalmente, la startup está construyendo Miles, un framework especializado diseñado para aprendizaje por refuerzo, que permite a las empresas entrenar modelos de IA para volverse más inteligentes con el tiempo.
Modelos de monetización y tendencias del mercado
Aunque la mayoría de sus herramientas permanecen gratuitas, RadixArk ha comenzado a cobrar tarifas por servicios de alojamiento, según una persona familiarizada con la compañía. Este modelo híbrido combina el desarrollo de código abierto con servicios comerciales de valor agregado, una estrategia común entre startups de infraestructura de IA.
Las startups que proporcionan infraestructura de inferencia para desarrolladores han experimentado un aumento en el financiamiento en los últimos meses, subrayando la importancia continua de la capa de inferencia para la inteligencia artificial. Baseten recientemente aseguró 300 millones de dólares con una valoración de 5 mil millones de dólares, reportó el Wall Street Journal el martes. Esto sigue un movimiento similar de su rival Fireworks AI, que recaudó 250 millones de dólares con una valoración de 4 mil millones de dólares en octubre pasado.
El sector de optimización de inferencia continuará atrayendo inversión considerable mientras las empresas buscan reducir los costos operativos de sus servicios de IA. La consolidación de estos proyectos de código abierto en entidades comerciales viables probablemente marcará el desarrollo del mercado en los próximos trimestres, especialmente a medida que más detalles sobre las rondas de financiación de vLLM y RadixArk se confirmen públicamente.