¿Por qué las CPU para Cloud Computing tienen menos potencia por núcleo?

El siguiente artículo que vais a leer es sobre todo didáctico y es para explicar el motivo por el cual ha aparecido para servidores y centros de datos en los últimos años que se centran más en tener la mayor cantidad de núcleos posibles, más que en la potencia de cada uno. En especial en servidores en la nube. Para ello hemos usado la CPU NVIDIA Grace, más que nada aprovechando unos datos que han aparecido recientemente.

NVIDIA Grace, la CPU que tomaremos como ejemplo

Hace unos días el Barcelona Supercomputing Center junto a la Universidad Estatal de Nueva York publicaron las pruebas de rendimiento del NVIDIA Grace, la CPU de la marca de Jensen Huang que la empresa suele vender en solitario o acompañada en una misma placa junto a las GPU para computación de alto rendimiento H100 o H200, bajo arquitectura Hopper. De ahí a que la combinación de ambas se la conozca como Grace Hopper.

Por lo que no se trata de un chip que vayamos a ver en nuestro PC, especialmente si tenemos en cuenta que hablamos de 72 núcleos con set de instrucciones ARMv9 acompañados de 480 GB de memoria LPDDR5X con un ancho de banda de 500 GB/s.

Sin embargo, hay una versión solo CPU con 2 chips Grace que dobla esas cifras, es decir: 144 núcleos y 960 GB a 1 TB/s en total. Todo ello con una interconexión NVLink C2C entre ambos chips de 900 GB/s. No obstante, NVIDIA no es una empresa especializada en el diseño de CPU, por lo que los núcleos son ARM Neoverse V2 y no son de factura propia, pero con el punto fuerte de tener 4 unidades SVE por núcleo.

Una arquitectura pensada para el Cloud Gaming

Cómo habréis adivinado se trata de CPU para servidores, pero especialmente forman parte de una nueva generación que ha aparecido con las necesidades de la computación en la nube. Remotamente, el negocio de estos sistemas es el que los usuarios accedan remotamente al sistema y se les asigne una potencia determinada, pero la potencia mínima que pueden ejecutar es siempre un hilo de ejecución.

Ahora bien, para ciertas tareas, el tener un núcleo más potente que lo que necesita la aplicación es contraproducente, ya que esto significa que estás perdiendo clientes potenciales a cambio de dar una potencia que no se aprovechará. Aquí es donde entran procesadores como NVIDIA Grace, los cuales al basarse en núcleos con set de instrucciones ARM, que son más pequeños, pues permiten colocar más de ellos en una misma área.

En realidad, este es el motivo por el cual AMD termino desarrollando los núcleos Zen 4c para crear EPYC Bergamo e Intel Sierra Forest basado solo en los E-Cores. Ý es que mientras que en el mercado doméstico, Windows domina, en el mundo de los servidores y centros de datos, donde las empresas se crean su propio software, Linux es el rey y dicho sistema operativo puede funcionar en ARM sin problemas.

Los benchmarks

En realidad tenemos dos sets de comparativas distintas, pero en realidad nos centraremos en la llevada a cabo por el Barcelona Super Computing Center, compara las dos variantes de la NVIDIA con el Intel SkyLake-X, un chip de 48 núcleos, el cual en comparación con la combinación de dos CPU Grace, obtiene los siguientes resultados:

• En Alya la solución de NVIDIA es 1.81 veces más rápida.
• Donde más rendimiento gana es en OpenFOAM donde Grace-Gace es 4.49 veces más rápido.
• En Nemo obtiene una mejora 2.78 veces.
• Si hablamos de LAMMPS la diferencia en rendimiento es de hasta 2,9 veces.
• Y para terminar, en PhysiCell se consigue una mejora de 3.24 veces.

Aquí hemos de tener en cuenta que estas pruebas utilizan toda la potencia de ambas CPU, es decir, no se centran en un solo núcleo. Por lo que NVIDIA Grace tiene un rendimiento por núcleo casi a la par que una CPU Intel con una arquitectura de 2017-2018, lo que indica el desfase que hemos comentado antes. Pero el motivo de ello es la cantidad de núcleos que se pueden colocar en un sistema y no la potencia de cada uno, tal y como ya hemos comentado antes.

Pe, pero cómo es esto posible si mi dispositivo Apple …

… ¿Es tan potente como una CPU de Intel o AMD? Es lo que tiene el marketing, que te vende cosas mintiendo. Una cosa es el set de instrucciones y otra muy distinta lo que son los núcleos en sí. Apple cuando habla de que sus núcleos son tan potentes como las de Intel, se refiere a sus núcleos de rendimiento, los cuales no son todos los que se encuentran en su CPU.

Hemos de tener en cuenta que si Apple hiciese una CPU para computación en la nube no usaría sus núcleos de rendimiento, por el hecho que no podría satisfacer a tantos clientes remotos y no podría capitalizarlos de la misma manera. Es decir, lo que queremos que entendamos es el concepto de la CPU pensada para el Cloud Computing y porque su rendimiento por núcleo es más bajo que el microprocesador para tu PC, lo mismo que ocurre con NVIDIA Grace.