Microsoft y otros inversores invierten $110 millones en d-Matrix

Microsoft y otros inversores han invertido $110 millones en d-Matrix, una empresa de chips de inteligencia artificial, según reveló Reuters el martes. d-Matrix es notable porque se enfoca en chips para inferencia. En pocas palabras, la inferencia de IA es el proceso de mejorar la precisión de las predicciones de un modelo de lenguaje generativo o de IA de gran tamaño. Ocurre después del entrenamiento.

¿Qué es d-Matrix?

d-Matrix es una empresa con sede en Silicon Valley que produce plataformas de cálculo (chips) para modelos de lenguaje generativos e IA de gran tamaño. Su producto estrella es Corsair, un motor de cálculo en memoria para inferencia de IA. La capacidad de diseño de mantener un modelo de IA completamente en la memoria es novedosa y se basa en los chiplets Nighthawk, Jayhawk-I y Jayhawk II previos de d-Matrix.

¿En qué está trabajando d-Matrix?

Con la nueva ronda de financiación, d-Matrix trabajará en comercializar Corsair. Quiere solucionar el problema de que las empresas de IA y modelos de lenguaje generativos no tienen suficiente capacidad de cálculo para ejecutar las cargas de trabajo que necesitan. Para solucionar esto, d-Matrix ha creado plataformas de cálculo basadas en chiplets de memoria digital que, según d-Matrix, pueden reducir el costo total de propiedad del proceso de inferencia.

Se espera que Corsair se lance el próximo año en 2024.

Por qué d-Matrix se destaca en el panorama de los chips de IA

d-Matrix se destaca porque la fabricación de chips es competitiva y muchas empresas más pequeñas tienen dificultades para encontrar financiación. NVIDIA ha presionado a muchas empresas más pequeñas e inversores fuera del mercado de chips de IA. En particular, la dominación de NVIDIA tanto en hardware como en software dificulta que otras empresas se abran camino, según Reuters.

NVIDIA se negó a comentar sobre las inversiones en d-Matrix.

Intel anuncia avances en procesadores Core Ultra

La inversión de $110 millones en d-Matrix proviene de una ronda de financiamiento Serie B de las firmas de inversión Temasek y Playground Global, así como de M12, el fondo de capital de riesgo de Microsoft. Anteriormente, d-Matrix había recaudado $44 millones en una ronda de financiación con Playground Global.

"La trayectoria actual de cálculo de IA es insostenible, ya que el costo total de propiedad para ejecutar una inferencia de IA está aumentando rápidamente", dijo Sid Sheth, cofundador y CEO de d-Matrix, en un comunicado de prensa. "El equipo de d-Matrix está cambiando la economía de costos de implementar inferencia de IA con una solución de cálculo especialmente diseñada para modelos de lenguaje generativos, y esta ronda de financiación valida nuestra posición en la industria".

"D-Matrix es la empresa que hará que la IA generativa sea comercialmente viable", afirmó Sasha Ostojic, socio de Playground Global, en el mismo comunicado de prensa.

"Estamos entrando en la fase de producción en la que el costo total de propiedad de la inferencia de LLM se convierte en un factor crítico en cuánto, dónde y cuándo utilizan las empresas la IA avanzada en sus servicios y aplicaciones", dijo Michael Stewart de M12, el Fondo de Capital de Riesgo de Microsoft, en el comunicado de prensa.

Cómo encajan los chiplets en la escasez mundial de chips

La industria de la IA generativa, que ha despegado a pasos agigantados desde la comercialización de ChatGPT en noviembre de 2022, enfrenta dos problemas importantes en la actualidad. En primer lugar, ejecutar IA generativa es extremadamente costoso: el entrenamiento de un LLM cuesta tanto como $4 millones a partir de marzo de 2023.

En segundo lugar, las unidades de procesamiento gráfico (GPU), que se requieren para el entrenamiento de IA y que NVIDIA produce, todavía pueden ser difíciles de encontrar. Son tan escasas que países de todo el mundo están iniciando iniciativas para impulsar la industria de los chips. Por ejemplo, a principios de septiembre, China destinó $40 mil millones a su industria de chips; aunque no hay indicios de que esos chips estén dirigidos específicamente a productos de IA generativa o LLM.

La escasez global de chips: Cuándo terminará y qué esfuerzos se están haciendo para resolverla

Los motores DIMC y las soluciones de chiplets que fabrica d-Matrix son alternativas a las soluciones basadas en GPU, por lo que d-Matrix podría estar preparada para ofrecer una solución a un problema importante.

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Hardware, allí encontraras muchos artículos similares a Microsoft y otros inversores invierten $110 millones en d-Matrix , tenemos lo ultimo en tecnología 2023.