Visita a los servidores de IA de NVIDIA en el stand SC23 de ASUS

En el stand de ASUS durante SC23, vimos varios productos de inteligencia artificial de la compañía. Esto incluía un sistema NVIDIA HGX H100 y un sistema GPU PCIe. A medida que se acerca el fin de año, queríamos presumirlo y también tenemos una pequeña pepita para nuestros clientes habituales de STH.

Visita a los servidores de IA en el stand de ASUS SC23

Primero, vimos el ASUS ESC N8-E11. Este es el sistema NVIDIA HGX H100 de 8 GPU de ASUS con procesadores escalables Intel Xeon de cuarta y quinta generación. Lo que quizás fue más interesante fue el ASUS ESC N8A-E12. Este es un sistema similar, pero que utiliza la serie AMD EPYC 9004.

El frente del sistema 7U está dominado por ventiladores y salidas de aire. Sin embargo, hay ocho unidades NVMe de 2,5 pulgadas.

El frente también tiene puertos LAN, un puerto de administración y algunas características divertidas. Hay una pantalla LCD Q-Code que hemos visto en generaciones de sistemas ASUS. A continuación, hay cuatro puertos USB 3. Muchos sistemas solo tienen dos, por lo que esta puede ser la característica más pequeña, pero pensamos en resaltarla.

Aquí está la parte posterior del sistema junto al brazo de Patrick.

La parte inferior trasera tiene una enorme bandeja. Aquí podemos ver las dos bahías para unidades traseras de 2,5 pulgadas, las ranuras de expansión PCIe y seis fuentes de alimentación de 3 kW.

En esta zona inferior también es donde se ubica la placa base con procesadores y memoria.

La parte trasera superior presenta el plato NVIDIA HGX H100.

Esta es quizás la característica más importante de los servidores, ya que es lo que hay tanta demanda en estos días.

Siempre es interesante ver los sistemas HGX H100, pero ASUS tiene más.

Servidor GPU PCIe ASUS ESC8000-E11

ASUS también mostró uno de sus servidores GPU PCIe ESC8000-E11 en la feria.

Este es un diseño de servidor GPU PCIe bastante tradicional diseñado para manejar GPU como NVIDIA L40S y H100.

El diseño de ASUS incluye ventiladores intermedios para el área de la GPU y ventiladores frontales para el área inferior de la CPU y la memoria.

En el espacio de GPU, ASUS ofrece varias variantes de ESC8000. Algunos tienen conexiones por cable directas, conmutadores PCIe Gen5, opciones Intel y AMD, y más.

Para muchas organizaciones, es más rentable utilizar servidores L40S que servidores H100 y, en general, el tiempo de actividad también es mucho mejor.

Refrigeración líquida

Por supuesto, ASUS ofrecía opciones de refrigeración líquida. Algo que quizás vea aquí es una configuración de refrigeración líquida directa en el chip con un toque especial.

ASUS también presentó su tanque de enfriamiento por inmersión en la feria.

La sorpresa fue que ASUS tenía una solución que combinaba ambas. Líquido de inmersión para enfriar componentes de bajo TDP y enfriamiento líquido directo en chip para piezas de mayor TDP.

La ventaja de esta configuración es que las empresas pueden lograr mayores caudales de fluido en comparación con piezas con alto TDP. Más allá de eso, no hay necesidad de preocuparse por la fuga de líquido de los circuitos, porque ese es el punto. El fluido se bombea a través de las placas frías, pero sólo en una dirección ya que hay fluido alrededor.

ASUS RS720QN-E11-RS24U

Finalmente, teníamos un sistema NVIDIA Grace Superchip. Este es un nodo diseñado para aceptar un módulo central Grace Superchip 144 y también proporcionar E/S para tarjetas de red y más.

El conector es el Grace Superchip, no el conector Grace Hopper. Grace Hopper es una pieza de 1 kW, por lo que es difícil enfriar con aire en un sistema como este.

Esto se debe a que es un diseño de 2U y 4 nodos.

Este sistema cuenta con un total de 576 núcleos Arm Neoverse V2.

Ultimas palabras

En general, ASUS tuvo mucho que ofrecer en el SC23. Aunque la empresa tenía servidores Intel Xeon y AMD EPYC estándar, pensamos en mostrar algunas de las plataformas aceleradas.

Si desea echar un vistazo rápido a algunas vistas más, aquí tiene un breve vídeo de 1 minuto de las pantallas ASUS en el SC23. Lo encontramos en un nuevo e increíble canal de YouTube.