De l'home més ric de SK a HBM - Comprendre la conca d'or dels xips d'IA

Per què el president de SK es va convertir en el nou home més ric de Corea?

S'ha publicat la darrera llista coreana rica i Chey Tae-won, president de SK Group, ha encapçalat la llista. I el 17 de març, a la conferència de NVIDIA GTC, Chey Tae-va declarar:

"En l'onada d'IA, la demanda de HBM augmentarà més de deu vegades el 2030"

Això no és només una conversa aleatòria-la seva riquesa ja es basa en aquest auge d'IA d'HBM. Avui, partint de conceptes bàsics, ho expliquem a fons d'una vegada.

En primer lloc, enteneu tres conceptes bàsics: què són DRAM, NAND i HBM? 

Quina és exactament la relació entre HBM i GPU?
Resum d'una frase:HBM és un "súper oleoducte" fet a mida-per a GPU 
 

• la característica de la GPU ésinformàtica paral·lela massiva(un H100 té desenes de milers de nuclis informàtics)
• Requereixen tants nuclis que funcionen simultàniamentample de banda ultra-granalimentar dades contínuament
• L'amplada de banda de la memòria de vídeo GDDR tradicional és insuficient, ho aconsegueix HBMmés de 3 vegades l'ample de bandamitjançant l'apilament 3D
• Sense HBM, fins i tot els nuclis informàtics de GPU més forts es "moriran de fam" i no podran funcionar a plena capacitat
• Analogia intuïtiva:
• Motor de=GPU d'alta-potència
• Oleoducte de=gran-diàmetre HBM
• Com més gran sigui la potència del motor, més necessitarà la canonada per mantenir-se al dia amb el subministrament d'oli

Mapa dels principals fabricants mundials: tres empreses monopolitzen, dues són a Corea

1️⃣ DRAM (memòria en execució)

2️⃣ NAND Flash (emmagatzematge-llarg termini)

3️⃣ HBM (Memòria d'amplada de banda alta) - La barrera més alta

Per què és tan difícil de fabricar HBM que només tres empreses a tot el món ho poden fer? 

HBM és el"Joia de la corona"de la indústria dels xips de memòria, tres barreres principals bloquegen gairebé tots els altres jugadors:

Procés d'apilament 1.3D

• Apilar entre 8 i 12 capes de DRAM moren verticalment juntes
• Utilitzeu TSV (Through-Silicon Via) per aconseguir la connexió entre capes
• La precisió de l'alineació s'ha de controlar a nivell nanòmetre, la millora del rendiment és molt difícil

2.Silicon Interposer

• Requereix un cablejat d'alta-densitat a les hòsties de silici per connectar HBM i GPU
• Procés complex, cost extremadament elevat, cosa que no es poden permetre els fabricants normals

3.Disseny d'ample de banda ultra-alt

• L'ample de banda HBM3E ja ha superat 1 TB/s, El disseny de la integritat del senyal és extremadament difícil
• Requereix dècades d'acumulació de tecnologia DRAM, no es pot recuperar de la nit al dia

Per què SK hynix s'ha convertit en el guanyador més gran d'aquesta onada d'IA? 

4.Aposta d'hora, colpeja la tuyera

• SK hynix va començar el disseny de HBM fa més de deu anys, liderant l'acumulació de tecnologia
• El primer a produir en massa HBM3, acabo de captar aquesta onada d'explosió de grans models d'IA
• Ara la capacitat de HBM és escassa, els preus han augmentat 2-3 vegades, els marges de beneficis s'han disparat

5. Últim judici de la Conferència GTC

• El president de SK, Chey Tae{0}}won, va declarar clarament al GTC que la demanda d'IA per a HBM és un creixement exponencial
• Preveu que el 2030, la mida del mercat de HBM augmentarà més de deu vegades
• SK ja està accelerant l'expansió de la producció de HBM3E per aprofitar l'oportunitat

6.Guanys traduïts en riquesa

• Els beneficis explosius d'HBM van augmentar directament el valor de mercat del grup SK, fent que Chey Tae-guanyés el nou home més ric de Corea
• Aquesta és la recompensa per al disseny tecnològic primerenc-si veieu la tendència correctament, la tendència us recompensarà

On som ara?

• Flash NAND: Yangtze Memory ja ha assolit un gran avenç, NAND 3D de 232 capes produït en massa, es va consolidar, els SSD nacionals ja es venen a tot el món
• DRAM: ChangXin Memory ha produït en massa DDR4, està promovent la R+D de DDR5, posant-se al dia gradualment
• HBM: ChangXin ha completat la R+D tècnica, encara necessita temps abans de la producció en massa i està fent tots els esforços per posar-se al dia

Resum final

7. En aquest auge de la IA, l'HBM més aigües amunt és la veritable "conca d'or"-per molt que guanyin els fabricants de GPU, els fabricants d'HBM són els inevitables "venedors de pala" que guanyen diners.

8.SK hynix va guanyar amb el disseny inicial-va insistir en R+D fa més de deu anys, quan ningú valorava HBM, avui treu els majors dividends de l'IA i es va convertir en el nou home més ric de Corea.

9.En la guerra de xips, la memòria és el camp de batalla principal-qui domina HBM té l'"aixeta" de la potència de càlcul d'IA. Ja hem superat la NAND, estem posant-nos al dia constantment a la DRAM i encara hem de continuar treballant dur a HBM.