閱讀紀錄

隱藏 →
此記錄會在頁面關閉後消失

除了HBF,還有哪些新興技術有望解決AI記憶體瓶頸?

Answer

HBF 之外的新興 AI 記憶體解決方案

隨著人工智慧模型對記憶體容量的需求爆炸性增長,現有的高頻寬記憶體(HBM)逐漸面臨瓶頸。除了 HBF (High Bandwidth Flash) 之外,業界也在積極探索其他解決方案,以應對 AI 記憶體容量不足的問題。目前主要有兩種方向:一是透過軟體整合外部記憶體資源,二是開發新型態的記憶體技術。

軟體整合外部資源

這種方法主要是透過軟體技術,將 GPU 內部的 DRAM、SSD 甚至網路連接的 NVMe 等外部資源整合起來,供 AI 模型使用。透過軟體控制記憶體之間的調用,可以更靈活地運用 GPU 內的記憶體資源。然而,這種方案的缺點在於外部記憶體的傳輸速度通常不如 HBM,因此在頻寬上會有所犧牲。群聯 (8299) 旗下的 aiDAPTIV+ 解決方案即屬於此類,該方案已被 Intel AI PC 採用,並導入華碩、宏碁等電腦品牌,旨在提供高性價比的 AI 邊緣運算解決方案。

高頻寬快閃記憶體(HBF)

HBF 以 NAND Flash 作為主要儲存層,透過堆疊高層數的 NAND 記憶體與邏輯層,大幅提高容量密度,可達 HBM 的 8 至 16 倍,同時保有高速讀取能力。儘管 HBF 的存取速度略遜於 HBM,但在大型模型的推論與邊緣運算方面,具有極佳的散熱與能源使用效率。目前 HBF 由 SanDisk 與 SK 海力士共同推動,預計在 2026 年下半年推出樣品,並在 2027 年有望導入 AI 晶片製造中。此外,力成 (6239) 作為國內記憶體封測龍頭廠,在 HBF 導入市場後,有望順勢切入提供封裝服務。

你可能想知道...

AI 模型對記憶體容量需求增長對半導體產業鏈有哪些結構性影響?

more

除了 HBM 和 HBF,還有哪些新興記憶體技術可能顛覆 AI 記憶體市場?

more

軟體整合外部記憶體資源,如群聯 aiDAPTIV+ 方案,如何影響 AI 邊緣運算的發展與市場競爭格局?

more

HBF 的普及對台灣記憶體封測廠商如力成,帶來哪些新的投資機會與挑戰?

more

面對 AI 記憶體技術的快速演進,投資人應如何評估相關半導體公司的長期競爭力與成長潛力?

more

你覺得這篇文章有幫助嗎?

likelike
有幫助
unlikeunlike
沒幫助
reportreport
回報問題
view
2
like
0
unlike
0
分享給好友
line facebook link
×