一向以來，投資者眼中人工智能晶片只有英偉達（NVDA），Google為降低英偉達近乎獨家供應威脅，故率先夥拍博通（AVGO），發展人工智能特殊應用晶片（ASIC），用作取代部份英偉達晶片功能，變相連博通也開始被受市場重視。不過，隨着數據量爆發性增長，投資者開始發現用作儲存數據的晶片有望成為新金礦，故在市場上開始上演尋寶遊戲。
簡單來講，儲存晶片分兩大類別，分別為非易失儲存器（Non-volatile Memory）及易失性儲存器（Volatile Memory），非易失儲存器意思即是當電源關閉後，資料仍會保存在記憶體內，硬碟（HDD）或固態硬碟（SSD）便屬此類晶片。
HBM解決GPU內存牆問題
至於易失性儲存器將資料儲在記憶體內，但相對非易失儲存器，易失性儲存器好處是能即時滿足CPU及GPU運算需求，但缺點是電源關閉後，資料也會消失，當中高帶寬內存（HBM）、主機內存（DRAM）便是易失性儲存器代表，本文將集中討論HBM環節。
GPU與TPU最佳拍檔是DRAM，但問題在於GPU與TPU運算速度太快，儲存晶片存取速度卻未能同步追上，造成內存牆（Memory Wall）問題，拖慢整組AI晶片運算。為解決此問題，HBM代替DRAM掛帥，以解決內存牆問題。
HBM其實是DRAM，是將多片DRAM堆疊向高空發展，每層DRAM通過硅通孔（TSV）互連，令傳輸速度大幅提升。例如在過往DRAM年代每秒只能傳輸50GB資料，換上HBM年代後，傳輸速度大增至每秒超過1TB，由於搬運資料速度大幅提升，因此HBM變成GPU與TPU的新最佳新拍檔。
海力士市佔最高
不過，生產HBM技術含量極高，廠商不單需要有能力生產DRAM，還需要擁有3D堆疊、矽通孔（TSV）及先進封裝技術等等，因此HBM售價是傳統DRAM高3至5倍，目前全球有能力生產HBM只得三間廠商，包括韓國SK海力士、韓國三星以及美國美光（MU）。據調研機構Counterpoint Research指，截至2025年第2季止，SK海力士市佔率最高達62%，其次是美光，市場份額則達21%，三星市佔最少，市場份額只有17%。
自2013年SK海力士首次推出HBM以來，相關技術經歷多次重要產品迭代，每代產品在容量、帶寬和功耗效率上都顯著提升。例如第一代的HBM，只能堆疊四層DRAM（圖），頻寬為每秒256GB，第二代HBM2在2018年推出，堆疊層數已提升一倍至八層，頻寬已升級至每秒307GB。
至於第三代較為出名的HBM3，堆疊層數達12層，頻寬進一步提升至每秒2TB，但整個厚度卻只有720微米（μm），即大約只是7張普通紙張厚度。明年海力士出產的HBM4，雖然720微米（μm）厚度不變，但卻容納16層DRAM。此外，正在研發的HBM5，在720微米（μm）厚度下，容納DRAM的密度將提升至20層，頻寬更有望「升呢」至每秒4TB。
由於HBM對人工智能晶片運算實在太重要，目前基本上已斷貨，最大廠商SK海力士更估計供不應求將延續到2027年。據市場調研機構DataM Intelligence估計，去年HBM市場規模便達29億美元，隨着AI需求持續提升，估算到2032年市場規模會達到156.7億美元，即相當於複合增長達23.6%。
儲存晶片打破周期股概念助提高估值
其實韓國儲存晶片股估值不貴，海力士預期市盈率只有7至8倍左右，就算是擁有手機及顯示屏業務的三星電子，預期市盈率也只是10倍左右，遠遠比英偉達約近30倍平，箇中原因是儲存晶片被市場判斷是高周期性行業，特別是受手機及電腦銷售影響，因此估值比其他擁有能見度較高的行業低。
