En un esfuerzo por liberar parte del estrés de GPU Squeeze, las GPU RTX de Nvidia (ampliamente conocidas por juegos y gráficos) se están configurando y reempaquetando para entusiastas interesados en IA en PC de escritorio. Las nuevas GPU son parte del enfoque de Nvidia para hacer que las GPU estén más disponibles donde y cuando los clientes las necesiten.
La compañía anunció las GPU RTX, que se pueden usar para la inferencia y el entrenamiento de IA. Las GPU se basan en la arquitectura Ada Lovelace, que difiere de la arquitectura Hopper utilizada en las GPU H100 sobrecalentadas y escasas.
Los entusiastas ya están usando GPU en computadoras portátiles para juegos para ejecutar aplicaciones impulsadas por IA, como modelos de texto a texto o de texto a imagen. En la conferencia SIGGRAPH de esta semana, Nvidia anunció nuevos diseños de escritorio y estaciones de trabajo con GPU RTX.
Los fabricantes de PC, incluidos Dell, Lenovo y Boxx, anunciarán estaciones de trabajo que pueden agrupar hasta cuatro procesos de generación de datos RTX 6000 en un chasis. Nvidia dijo que el precio minorista sugerido para la GPU era de $6,000, a pesar de que proveedores como Dell El vende Más de $9,000, impuestos incluidos.
Cada una de las GPU RTX 6000, basadas en el diseño de Ada Lovelace, tiene 48 GB de memoria GDDR6 y una NIC de 200 Gbps. La GPU consume 300 vatios de potencia y se basa en el antiguo estándar de interconexión PCIe 4.0.
Nvidia también anunció la GPU L40S Ada, que se parece mucho a la versión pobre de la H100, porque es más rápida que la generación anterior de GPU A100 en entrenamiento e inferencia de IA. El nuevo producto es una variante de la GPU de servidor L40 anunciada hace un año.
El L40S también tiene 48 GB de memoria GDDR6 y estará en sistemas basados en la arquitectura de servidor de referencia OVX para aplicaciones de metaverso.
La L40S es hasta cuatro veces más rápida para cargas de trabajo de IA y gráficos que la GPU A40 de la generación anterior, que se basa en la arquitectura Ampere de la generación anterior. El entrenamiento de IA es 1,7 veces más rápido que la GPU A100 y el razonamiento es 1,5 veces más rápido. El L40S presenta velocidades de reloj más rápidas y más representación de gráficos y rendimiento de tensor.
Los sistemas empresariales RTX de Nvidia están diseñados para los mercados de metaverso e IA, y el nuevo hardware incluirá licencias para el software Omniverse y AI Enterprise. La compañía también anunció AI Enterprise 4.0, que incluirá el modelo Nemo de lenguaje grande.
No debería haber dificultades para obtener suministros de la GPU L40S, que se enviará a finales de este año.
«Estos no serán tan restrictivos como lo hemos sido en algunas de nuestras GPU de gama alta», dijo Bob Petty, vicepresidente de visualización profesional de Nvidia, durante una conferencia de prensa.
La GPU RTX 4000 de bajo costo de Nvidia estará disponible en septiembre por $ 1,250. El RTX 4500 estará disponible por $ 2250 a partir de octubre.
La inteligencia artificial es tan importante como los juegos para Nvidia. La compañía quiere hacer de las GPU un producto en el que los entusiastas puedan crear su propio software y luego ejecutarlo donde esté disponible la GPU más cercana. Las GPU H100 de Nvidia son difíciles de encontrar y se han convertido en un activo para las empresas. Una startup llamada CoreWeave ha puesto sus GPU Nvidia como garantía para financiar su crecimiento. Los mineros de criptomonedas también están reutilizando sus GPU en centros de datos para ejecutar inteligencia artificial.
«Experto en Internet. Lector. Fanático de la televisión. Comunicador amistoso. Practicante de alcohol certificado. Aficionado al tocino. Explorador. Malvado adicto a los tweets».
More Stories
Microsoft Xbox planea más recortes después del cierre del estudio
Fecha de lanzamiento del Apple iPad Air (chip M2), precio en el Reino Unido y cómo realizar un pedido por adelantado
Consejos para reducir tu huella de carbono digital