DeepInfra, financiación de la Serie B de 107 millones de dólares... expansión global de infraestructura de inferencia de IA

Ente de computación en la nube enfocado en inferencia de inteligencia artificial, DeepInfra, obtiene 107 millones de dólares en una ronda de financiación Serie B, lo que impulsará la expansión global de sus dispositivos. En términos de won surcoreano, la escala es aproximadamente 158.192.500.000 won. En la etapa de superación de la IA generativa y transición hacia la “IA basada en agentes”, DeepInfra planea superar las limitaciones de la computación en la nube generalizada existente.

Esta ronda de inversión fue liderada por 500 Global y el exingeniero de Google Cloud, George Harrick. Además, participaron Nvidia, Samsung Next, división de inversión de Samsung Electronics, Supermicro, A.Capital Ventures, Crescent Cove, Peliciis, Peak6, Upper90 y otros. Es notable que los principales inversores también están atentos al potencial de crecimiento del mercado de infraestructura de IA.

DeepInfra es una empresa centrada en la fase de “inferencia” en cargas de trabajo de IA. La inferencia se refiere a la etapa en que un modelo de IA entrenado procesa solicitudes de usuarios en un entorno de servicio real. La compañía considera que las plataformas en la nube existentes no están diseñadas con esta necesidad en mente. Explican que, especialmente en la IA basada en agentes, completar una tarea requiere decenas a cientos de llamadas al modelo, lo que puede causar retrasos y costos altamente inestables.

Para resolver este problema, DeepInfra afirma que está desarrollando una “fábrica de tokens” que considera la inferencia como un proceso central en lugar de un servicio adicional. La empresa fue fundada por un equipo de ingenieros que crearon la aplicación de mensajería instantánea “imo”, que se expandió a más de 200 millones de usuarios en todo el mundo. Su estrategia es transferir la experiencia operativa de sistemas distribuidos a gran escala a la infraestructura de inferencia de IA.

A diferencia de los operadores existentes que dependen de la utilización de capacidad ociosa de servidores externos “Spot”, DeepInfra opera hardware propio en ocho centros de datos en EE. UU. Describen que, desde GPU hasta API, mejoran la eficiencia controlando toda la pila tecnológica. La compañía afirma que, utilizando la plataforma de inferencia distribuida de Nvidia, “Dynamo”, junto con GPU Blackwell y Vera Rubin, pueden ofrecer hasta 20 veces más eficiencia en costos de inferencia.

En particular, DeepInfra considera que la IA basada en agentes consume mucho más recursos que los chatbots generativos existentes. Actualmente, más del 30% del tráfico de tokens generado en su plataforma proviene de agentes autónomos, lo que confirma esta tendencia. Esto indica que la demanda de inferencia de IA está superando las respuestas simples de chatbots y se está orientando rápidamente hacia la automatización de procesos empresariales.

Actualmente, la plataforma de DeepInfra soporta más de 190 modelos de IA de código abierto, incluyendo la serie Nvidia Nemotron. Además, para empresas que encuentran oneroso enviar información sensible a la nube externa, ofrecen una política de “retención cero de datos”. Esto se interpreta como un intento de crear una ventaja diferenciadora en un mercado empresarial de IA que considera la seguridad, el costo y la velocidad.

Nikolai Borisov, cofundador y CEO, afirmó que desde que fundó la compañía hace cuatro años, pensaba que la inferencia de IA sería el núcleo de las cargas de trabajo empresariales de IA, y ahora esa predicción se ha materializado. Analizó que los modelos de código abierto están alcanzando rápidamente a los modelos cerrados, promoviendo la innovación a menor costo, y que los sistemas basados en agentes están creando una demanda sostenida y a gran escala. Además, enfatizó que la inferencia de IA ya no es una capa superficial de procesamiento, sino que se convertirá en el “cuello de botella” que definirá la mayoría de las cargas de trabajo de IA en el futuro.

Tony Wang de 500 Global también comentó que, ante el aumento de la demanda de inferencia de IA, los desarrolladores y ingenieros necesitan infraestructura más rápida, flexible y estable. Señaló que el equipo de DeepInfra ya ha demostrado su capacidad para construir y operar sistemas distribuidos a escala global, y que la infraestructura de inferencia de IA orientada a objetivos será fundamental para sostener la próxima etapa de la industria de IA.

Esta ronda de financiación no solo representa una simple captación de fondos, sino que también refleja que el foco de competencia en infraestructura de IA está cambiando del entrenamiento a la inferencia. En particular, con la difusión formalizada de la IA basada en agentes, la capacidad de procesar inferencias de IA de manera rápida y económica se está convirtiendo en una nueva clave en el mercado de computación en la nube.

Notas de TP AI: Este resumen se realizó con el modelo de lenguaje TokenPost.ai. Puede omitir contenido principal del original o no reflejar hechos con precisión.