NVIDIA lanza DGX Cloud

La infraestructura DGX Cloud de NVIDIA, que permite a las organizaciones arrendar espacio en hardware de supercomputación adecuado para entrenar modelos generativos de AI, está ahora disponible para el público en general. Anunciado por primera vez en marzo, este servicio tiene un costo de $36,999 por instancia al mes y compite con el propio servidor DGX de $200,000 de NVIDIA. Se ejecuta en la infraestructura de Oracle Cloud y en hardware de NVIDIA ubicado en Estados Unidos y Reino Unido.

Índice:

• ¿Qué hace NVIDIA DGX Cloud?
• ¿Qué hace que la plataforma NVIDIA DGX Cloud for AI funcione?
• Cómo está cambiando el acceso a la computación AI

¿Qué hace NVIDIA DGX Cloud?

DGX Cloud es una versión de acceso remoto del hardware de NVIDIA, incluyendo miles de GPU de NVIDIA en línea en la infraestructura de Oracle Cloud.

El sistema DGX AI es el hardware en el que ChatGPT fue entrenado en primer lugar, por lo que NVIDIA tiene la experiencia necesaria para las organizaciones que desean desarrollar sus propios modelos generativos de AI. Al entrenar a ChatGPT, Microsoft vinculó decenas de miles de chips gráficos A100 de NVIDIA para obtener la potencia necesaria; ahora, NVIDIA quiere hacer que el proceso sea mucho más fácil, esencialmente proporcionando el entrenamiento de AI como un servicio.

Según NVIDIA, las compañías farmacéuticas, fabricantes e instituciones financieras que utilizan procesamiento de lenguaje natural y chatbots de AI son algunos de los clientes actuales de DGX Cloud.

Generative AI en ciberseguridad: riesgos y amenazas que debes conocer

Las organizaciones interesadas en DGX Cloud pueden solicitar su inscripción.

¿Qué hace que la plataforma NVIDIA DGX Cloud for AI funcione?

La clave del éxito de la plataforma DGX Cloud for AI de NVIDIA es una red de alto rendimiento y baja latencia que permite que las cargas de trabajo se escalen en clústeres de sistemas interconectados, lo que permite que múltiples instancias funcionen como si fueran parte de una sola GPU.

El precio de suscripción de $36,999 por instancia al mes permite que una organización alquile espacio en ocho GPU Tensor Core de 80 GB de NVIDIA, con 640 GB de memoria de GPU por nodo, el conjunto de supercomputadoras, todo accesible a través de un navegador web. Los clientes pueden gestionar y supervisar las cargas de trabajo de entrenamiento a través del panel de control del software NVIDIA Base Command Platform.

"La interfaz de usuario de DGX Cloud (NVIDIA Base Command Platform) permite a las empresas ejecutar y administrar rápidamente el desarrollo de modelos sin preocuparse por la infraestructura subyacente", señaló Tony Paikeday, director senior de DGX Platforms en NVIDIA, en un correo electrónico a Newsmatic.

A partir de ahí, las organizaciones pueden utilizar NVIDIA AI Enterprise, la parte de software de la plataforma. Proporciona una biblioteca con más de 100 frameworks de AI de extremo a extremo y modelos pre-entrenados, lo que facilita el desarrollo e implementación de AI en producción.

Paikeday señaló que los clientes que ya utilizan DGX Cloud suelen elegirlo porque la computación tradicional no les proporciona tantos recursos dedicados.

Microsoft y LinkedIn lanzan programa de certificación en habilidades de IA generativa

Los clientes desean "escala computacional y una interconexión de red que les permita paralelizar estas cargas de trabajo muy grandes en muchas instancias de cómputo co-residentes que operan como un solo supercomputador masivo", dijo.

Cómo está cambiando el acceso a la computación AI

A medida que la AI generativa se vuelve más común, las organizaciones están respondiendo a la demanda de cambios en la forma en que se utiliza la AI, desde un poderoso modelo entrenado públicamente como GPT-4 hasta instancias privadas en las que las organizaciones pueden utilizar sus propios datos y desarrollar sus propios casos de uso patentados. El acceso a la potencia de computación intensiva necesaria cambiará en consecuencia.

"La disponibilidad de NVIDIA DGX Cloud proporciona una nueva fuente de recursos de supercomputación AI con acceso casi instantáneo", dijo Pat Moorhead, analista principal de Moor Insights & Strategy, en un comunicado de prensa de NVIDIA.

"La AI generativa ha convertido la adopción rápida de la AI en una necesidad empresarial para las principales compañías de todas las industrias, lo que está llevando a muchas empresas a buscar una infraestructura de cómputo acelerada", dijo.

"Estamos en el momento del iPhone de la AI. Las startups están compitiendo por construir productos y modelos de negocio disruptivos, y los incumbentes buscan responder", dijo Jensen Huang, fundador y CEO de NVIDIA, en el momento del anuncio original en marzo. "DGX Cloud brinda a los clientes acceso instantáneo a la supercomputación AI de NVIDIA en nubes de escala global".

Comparación de Google Bard y Claude.ai: Cuál es el mejor chatbot conversacional en 2023

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial, allí encontraras muchos artículos similares a NVIDIA lanza DGX Cloud , tenemos lo ultimo en tecnología 2023.