El profesor Kim Jung-ho de KAIST, ingeniero a quien se le atribuye la invención de la HBM, sostiene que el cuello de botella que define la era de la IA se ha desplazado del cómputo a la memoria, una afirmación respaldada por el margen bruto del 84,9 % de Micron y los 100 000 millones de dólares en contratos cerrados con clientes.
El ingeniero a quien se le atribuye la invención de la memoria de alto ancho de banda afirma que la limitación clave de la industria de la IA ya no es el cómputo de la GPU, sino el ancho de banda de la memoria, con una utilización de la GPU estancada en el 10 % porque los procesadores pasan la mayor parte del tiempo esperando datos.
"La IA equivale a la memoria", afirmó Kim Jung-ho, profesor de ingeniería eléctrica en KAIST y arquitecto de la primera especificación HBM, en una entrevista en video. "La evolución de los ordenadores de IA está en manos de la memoria".
El argumento de Kim encuentra respaldo en toda la cadena de suministro de memoria. Micron Technology registró un margen bruto no-GAAP del 84,9 % en su tercer trimestre fiscal, y su CEO, Sanjay Mehrotra, reveló 16 Acuerdos Estratégicos con Clientes que cubren aproximadamente el 20 % del volumen de DRAM y un tercio del volumen de NAND, con obligaciones de rendimiento restantes de unos 100 000 millones de dólares. Samsung Electronics y SK Hynix, las dos empresas que Kim identificó como las únicas con capacidad para fabricar tanto DRAM como NAND, anunciaron una inversión conjunta de 800 billones de wones (518 000 millones de dólares) en cuatro nuevas megafábricas en la región de Honam, Corea del Sur, con el objetivo de completarlas a mediados de la década de 2030.
El cambio estructural amenaza el dominio de Nvidia en el hardware de IA. Kim afirmó que el crecimiento de la tecnología de GPU de Nvidia "casi se ha detenido" porque los chips no se pueden apilar verticalmente debido a las limitaciones de disipación de calor, mientras que la memoria sí puede hacerlo. Si la tesis de Kim se sostiene, los aproximadamente 3 billones de dólares en capitalización de mercado concentrados en los fabricantes de GPU podrían comenzar a migrar hacia los fabricantes de memoria a medida que las cargas de trabajo de IA pasen del entrenamiento a la inferencia.
HBM4 Marca un Cambio en el Poder del Proveedor
A partir de HBM4, la memoria ya no es un producto básico estandarizado. Kim afirmó que cada gran cliente de IA —Nvidia, Google, AMD— ahora requiere un diseño de HBM personalizado adaptado a su arquitectura de acelerador. Ese cambio ha invertido la relación tradicional entre comprador y proveedor. Los fabricantes de memoria ahora exigen acuerdos a largo plazo y compromisos de volumen antes de comenzar el desarrollo, fijando efectivamente los precios en lugar de aceptarlos.
"Las empresas de IA necesitan desesperadamente HBM de alto rendimiento, así que hacen fila", dijo Kim. "El proveedor empieza a decidir el precio. Esto cambia el modelo por completo".
Las cifras lo respaldan. Mehrotra, de Micron, dijo a los inversores que los márgenes brutos en el piso de estos acuerdos "estarán muy por encima de los picos que experimentamos en ciclos anteriores". Las acciones de Micron han ganado un 296,9 % en lo que va del año, mientras que Samsung y SK Hynix han visto aumentar sus capitalizaciones de mercado a medida que los inversores descuentan un poder de fijación de precios sostenido.
HBF y HBS: La Próxima Década de la Arquitectura de Memoria
Kim describió dos arquitecturas de memoria adicionales que, según él, remodelarán el hardware de IA durante la próxima década. La primera, High Bandwidth Flash (HBF), apila NAND flash verticalmente de la misma manera que HBM, ofreciendo aproximadamente 10 veces la capacidad a velocidades más bajas, adecuada para almacenar los "datos fríos" que acumulan las cargas de trabajo de inferencia. Las empresas que desarrollan HBF incluyen a SK Hynix, Samsung, Sandisk y la japonesa Kioxia, que recientemente superó a Toyota en valor de mercado para convertirse en la empresa más grande de Japón por capitalización bursátil.
La segunda, High Bandwidth SRAM (HBS), representa una ruptura más radical. Kim propone fabricar una oblea completa de 12 pulgadas como SRAM (que es aproximadamente 1000 veces más rápida que la DRAM) y luego apilar de 12 a 16 capas verticalmente para alcanzar 1,6 terabytes de capacidad. Una GPU se situaría en la parte superior, con la refrigeración integrada en la capa más alta de la pila.
"El suministro de energía será la tecnología más difícil", dijo Kim. "Suministrar miles de amperios a través de esta estructura 3D: eso se convertirá en la verdadera competitividad central entre las empresas".
El Caso de Inversión por la Memoria Frente al Cómputo
El pronóstico a largo plazo de Kim es inequívoco: "Es la era de HBM ahora, pero dentro de 10 años, la demanda del mercado de NAND flash y HBF superará a la de HBM. Samsung y SK Hynix deben prepararse para la era HBF".
Para los inversores, la tesis se traduce en una revalorización estructural de las acciones de memoria. Se prevé que Samsung y SK Hynix generen un beneficio operativo combinado de entre 500 y 600 billones de wones (324 000 y 389 000 millones de dólares) este año, según Kim, quien afirmó que se reúne regularmente con ejecutivos de ambas empresas. "Sus ojos se están volviendo más brillantes", dijo.
El riesgo es cíclico. Las recesiones de la memoria han castigado históricamente incluso a los fabricantes más fuertes. Pero Kim sostiene que los contratos personalizados de HBM con márgenes mínimos superiores a los picos de ciclos anteriores proporcionan una protección sin precedentes contra las caídas. "El modelo ha cambiado", concluyó.
Este artículo es solo para fines informativos y no constituye asesoramiento de inversión.