PrismML將270億參數大模型壓縮到不到4GB，對端側AI競爭力意味著什麼？

Question

## PrismML技術突破對蘋果端側AI競爭力的潛在影響

Accepted Answer

PrismML成功將一個擁有270億參數的大型語言模型，從原先約54GB的體積大幅壓縮至不到4GB，並使其能在iPhone 17 Pro等終端設備上運行，這項技術突破意味著蘋果在端側AI的競爭力將獲得顯著提升。此舉不僅解決了大型AI模型在儲存空間與運算資源上的硬體瓶頸，更有助於蘋果實現更強大、更即時的設備端AI功能，與現有僅能部分激活的稀疏架構模型形成對比，具備全參數同步運作的潛力。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

PrismML將270億參數大模型壓縮到不到4GB，對端側AI競爭力意味著什麼？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友