¿Por qué Intel Gaudí 3 se queda atrás en la Carrera de la IA?

La guerra de los microprocesadores de alto rendimiento para IA sigue al rojo vivo con el anuncio de Intel Gaudi 3, el cual, sinceramente y tras ver sus especificaciones técnicas, nos ha dejado algo frias. Y es que Intel se ha quedado bastante atrás en ciertos aspectos por escasez de un componente clave.

Intel Gaudi 3, ¿una pequeña decepción?

Con NVIDIA teniendo el 90% del mercado y con una demanda por encima de la oferta, aparece la oportunidad para empresas como Intel para poder entrar en el mercado y captar clientes importantes. Y es aquí donde entra Gaudí 3, el cual es más bien una respuesta al NVIDIA H200 y al AMD Instinct MI300X que no a los recién presentados B100 y B200 de NVIDIA. En el caso de Intel Gaudí 3 adopta el diseño de doble chip simétrico combinado con 8 pilas de memoria HBM2E.

Sin embargo, esto no es una GPU al uso, ya que carece de todas las unidades de función fija y proposito específico para gráficos, sino más bien su diseño se parece más a las TPU de Google. En este caso tenemos 8 Arrays Sistolicos o Tensor Cores de gran tamaño con la capacidad de hacer multiplicaciones de matrices a gran velocidad y con un ratio de 1835 TFLOPS en FP8, lo cual es un poco tramposo por parte de Intel, ya que la cifra en FP16 y BF16 es justo la mitad, unos 917 TFLOPS.

Dichas cifras dejan a Gaudi 3 por debajo del MI300X de AMD, que puede alcanzar sin problemas los 1307.4 TFLOPS de potencia en FP16 y BF16. No obstante, esto tiene una explicación y es el hecho de que Intel no ha podido acceder a una memoria mucho más rápida, lo que les ha impedido lanzar un chip con mejores especificaciones técnicas.

Víctima de la escasez de memoria HBM3E

Es precisamente el hecho de que no utilice HBM3 o HBM3E su punto débil en comparación con los demás, pero se entiende desde el momento en que NVIDIA, en su mayor parte, y, en menor parte, de AMD, han absorbido toda la demanda de la HBM de tercera generación. Por lo que al final tenemos que Gaudi 3 tiene 128 GB de capacidad con un ancho de banda de 3.7 TB/s. En comparación con la MI300X de AMD, que también tiene un doble bus de 4096 bit, pues palidece, ya que este tiene 5.3 TB/s de ancho de banda y 192 GB de capacidad.

¿Y a que viene la comparación con AMD? Bueno, por el hecho de que Intel busca el mismo mercado que AMD, el que no puede suplir la marca de Jensen Huang para asentarse en el mercado. La realidad es que Intel no consiguió colocar Ponte Vecchio y Gaudi 3 es producto de una falta total de diseños competitivos por parte de Intel. Se dice que Falcon Shores lo veremos en 2025, lo cual significa que la vida comercial de este diseño será realmente corta y visto, lo visto, nos preguntamos si se trata de un paper launch de Intel para demostrar a los accionistas e inversores que tienen algo tangible de cara a la IA.