Dall'uomo più ricco della SK alla HBM - Comprendere il bacino d'oro dei chip IA

Perché il presidente dell'SK è diventato il nuovo uomo più ricco della Corea?

È stata pubblicata l'ultima lista dei ricchi coreani e Chey Tae-won, presidente di SK Group, è in cima alla lista. E il 17 marzo, alla conferenza NVIDIA GTC, Chey Tae-ha dichiarato:

"Con l'onda dell'intelligenza artificiale, la domanda di HBM aumenterà di oltre dieci volte entro il 2030"

Non si tratta solo di chiacchiere casuali:-la sua ricchezza è già costruita sul boom dell'intelligenza artificiale della HBM. Oggi, partendo dai concetti base, spieghiamolo approfonditamente in una sola volta.

Innanzitutto, comprendi tre concetti di base: cosa sono DRAM, NAND e HBM? 

Qual è esattamente la relazione tra HBM e GPU?
Riepilogo di una frase:HBM è un "super oleodotto" realizzato su misura-per la GPU 
 

• a caratteristica della GPU ècalcolo parallelo massiccio(un H100 ha decine di migliaia di core di elaborazione)
• Richiedono così tanti core che lavorano contemporaneamentelarghezza di banda ultra-largaper alimentare continuamente i dati
• La tradizionale larghezza di banda della memoria video GDDR è insufficiente, afferma HBMpiù di 3 volte la larghezza di bandaattraverso l'impilamento 3D
• Senza HBM, anche i core di elaborazione GPU più potenti "moriranno di fame" e non potranno funzionare a pieno regime
• Analogia intuitiva:
• Motore GPU=ad alta-potenza
• Oleodotto HBM=di-grande diametro
• Maggiore è la potenza del motore, maggiore è la necessità dell'oleodotto per tenere il passo con la fornitura di petrolio

Mappa dei principali produttori mondiali: tre società monopolizzano, due sono in Corea

1️⃣ DRAM (memoria di funzionamento)

2️⃣ NAND Flash (archiviazione-a lungo termine)

3️⃣ HBM (memoria a larghezza di banda elevata) - La barriera più alta

Perché la HBM è così difficile da produrre che solo tre aziende al mondo possono farlo? 

HBM è il"Gioiello della corona"del settore dei chip di memoria, tre principali barriere bloccano quasi tutti gli altri attori:

Processo di impilamento 1.3D

• Impila verticalmente insieme 8-12 strati di die DRAM
• Utilizza TSV (Through-Silicon Via) per ottenere la connessione interstrato
• La precisione dell'allineamento deve essere controllata a livello nanometrico, il miglioramento della resa è molto difficile

2. Interpositore di silicio

• Richiede cablaggio ad alta-densità su wafer di silicio per collegare HBM e GPU
• Processo complesso, costi estremamente elevati, qualcosa che i normali produttori non possono permettersi

3.Design con larghezza di banda ultra-elevata

• La larghezza di banda dell'HBM3E ha già superato 1 TB/s, la progettazione dell'integrità del segnale è estremamente impegnativa
• Richiede decenni di accumulo di tecnologia DRAM e non può essere recuperato da un giorno all'altro

Perché SK Hynix è diventato il più grande vincitore in questa ondata di intelligenza artificiale? 

4. Scommetti presto, colpisci la tubiera

• SK hynix ha avviato la progettazione della HBM più di dieci anni fa, leader nell'accumulo di tecnologia
• Il primo a produrre in serie l'HBM3, ha appena catturato questa ondata di esplosione di modelli di grandi dimensioni dell'IA
• Ora la capacità della HBM scarseggia, i prezzi sono aumentati di 2-3 volte, i margini di profitto sono aumentati vertiginosamente

5.Ultimo giudizio della Conferenza GTC

• Il presidente della SK Chey Tae-won ha affermato chiaramente al GTC che la domanda di AI per HBM è in crescita esponenziale
• Si prevede che entro il 2030 le dimensioni del mercato HBM aumenteranno di oltre dieci volte
• SK sta già accelerando l'espansione della produzione dell'HBM3E per cogliere l'opportunità

6.Profitti tradotti in ricchezza

• Gli esplosivi profitti della HBM hanno fatto aumentare direttamente il valore di mercato del Gruppo SK, facendo sì che Chey Tae-diventi il ​​nuovo uomo più ricco della Corea
• Questa è la ricompensa per il primo layout tecnologico-se vedi correttamente la tendenza, la tendenza ti ricompenserà

Dove siamo ora?

• NAND Flash: Yangtze Memory ha già raggiunto risultati rivoluzionari, la NAND 3D a 232 strati prodotta in serie, ha guadagnato una solida posizione, gli SSD domestici sono già venduti in tutto il mondo
• DRAM: ChangXin Memory ha prodotto in serie DDR4, sta promuovendo la ricerca e lo sviluppo di DDR5, recuperando gradualmente terreno
• HBM: ChangXin ha completato la ricerca e lo sviluppo tecnico, ha ancora bisogno di tempo prima della produzione di massa e sta facendo ogni sforzo per recuperare il ritardo

Riepilogo finale

7. In questo boom dell'intelligenza artificiale, l'HBM più a monte è il vero "bacino d'oro"-non importa quanto guadagnano i produttori di GPU, i produttori di HBM sono gli inevitabili "venditori di pale" che guadagnano.

8.SK hynix ha vinto con il layout iniziale-ha insistito sulla ricerca e sviluppo più di dieci anni fa, quando nessuno apprezzava la HBM, oggi raccoglie i maggiori dividendi dell'intelligenza artificiale ed è diventato il nuovo uomo più ricco della Corea.

9. Nella guerra dei chip, la memoria è il principale campo di battaglia-chiunque padroneggia l'HBM possiede il "rubinetto" della potenza di calcolo dell'IA. Abbiamo già sfondato nella NAND, stiamo costantemente recuperando terreno nella DRAM e dobbiamo ancora continuare a lavorare duramente in HBM.