一向以來，投資者眼中人工智能晶片只有英偉達（NVDA），Google為降低英偉達近乎獨家供應威脅，故率先夥拍博通（AVGO），發展人工智能特殊應用晶片（ASIC），用作取代部份英偉達晶片功能，變相連博通也開始被受市場重視。不過，隨着數據量爆發性增長，投資者開始發現用作儲存數據的晶片有望成為新金礦，故在市場上開始上演尋寶遊戲。
簡單來講，儲存晶片分兩大類別，分別為非易失儲存器（Non-volatile Memory）及易失性儲存器（Volatile Memory），非易失儲存器意思即是當電源關閉後，資料仍會保存在記憶體內，硬碟（HDD）或固態硬碟（SSD）便屬此類晶片。
HBM解決GPU內存牆問題
至於易失性儲存器將資料儲在記憶體內，但相對非易失儲存器，易失性儲存器好處是能即時滿足CPU及GPU運算需求，但缺點是電源關閉後，資料也會消失，當中高帶寬內存（HBM）、主機內存（DRAM）便是易失性儲存器代表，本文將集中討論HBM環節。
GPU與TPU最佳拍檔是DRAM，但問題在於GPU與TPU運算速度太快，儲存晶片存取速度卻未能同步追上，造成內存牆（Memory Wall）問題，拖慢整組AI晶片運算。為解決此問題，HBM代替DRAM掛帥，以解決內存牆問題。
HBM其實是DRAM，是將多片DRAM堆疊向高空發展，每層DRAM通過硅通孔（TSV）互連，令傳輸速度大幅提升。例如在過往DRAM年代每秒只能傳輸50GB資料，換上HBM年代後，傳輸速度大增至每秒超過1TB，由於搬運資料速度大幅提升，因此HBM變成GPU與TPU的新最佳新拍檔。
