除了HBF,還有哪些新興技術有望解決AI記憶體瓶頸?
Answer
HBF 之外的新興 AI 記憶體解決方案
隨著人工智慧模型對記憶體容量的需求爆炸性增長,現有的高頻寬記憶體(HBM)逐漸面臨瓶頸。除了 HBF (High Bandwidth Flash) 之外,業界也在積極探索其他解決方案,以應對 AI 記憶體容量不足的問題。目前主要有兩種方向:一是透過軟體整合外部記憶體資源,二是開發新型態的記憶體技術。
軟體整合外部資源
這種方法主要是透過軟體技術,將 GPU 內部的 DRAM、SSD 甚至網路連接的 NVMe 等外部資源整合起來,供 AI 模型使用。透過軟體控制記憶體之間的調用,可以更靈活地運用 GPU 內的記憶體資源。然而,這種方案的缺點在於外部記憶體的傳輸速度通常不如 HBM,因此在頻寬上會有所犧牲。群聯 (8299) 旗下的 aiDAPTIV+ 解決方案即屬於此類,該方案已被 Intel AI PC 採用,並導入華碩、宏碁等電腦品牌,旨在提供高性價比的 AI 邊緣運算解決方案。
高頻寬快閃記憶體(HBF)
HBF 以 NAND Flash 作為主要儲存層,透過堆疊高層數的 NAND 記憶體與邏輯層,大幅提高容量密度,可達 HBM 的 8 至 16 倍,同時保有高速讀取能力。儘管 HBF 的存取速度略遜於 HBM,但在大型模型的推論與邊緣運算方面,具有極佳的散熱與能源使用效率。目前 HBF 由 SanDisk 與 SK 海力士共同推動,預計在 2026 年下半年推出樣品,並在 2027 年有望導入 AI 晶片製造中。此外,力成 (6239) 作為國內記憶體封測龍頭廠,在 HBF 導入市場後,有望順勢切入提供封裝服務。