PrismML將270億參數AI模型壓縮至3.9GB，引發蘋果關注

一個僅需智慧型手機記憶體即可運行的270億參數AI模型，已吸引蘋果與一間加州理工學院衍生新創公司展開初期洽談，可能重塑這家iPhone製造商在裝置端智慧與雲端成本之間的平衡。

PrismML於7月14日發布Bonsai 27B，這是阿里巴巴Qwen3.6 27B的壓縮版本，將每個模型權重從16位元縮減為單一二進位值（+1或-1），或其三元變體中的三個數值之一。據該公司表示，1位元版本佔用3.9GB記憶體，在iPhone 17 Pro上以每秒11個token的速度運行，成為首款能夠完全在消費級智慧型手機上運行的270億參數模型。

「這縮小了雲端可能實現的技術與能在裝置上私密運行的技術之間的差距，」PrismML執行長Babak Hassibi對CNBC表示。「蘋果和其他公司此刻正在評估我們的技術。」

這項壓縮技術基於加州理工學院的專利智慧財產權，並獲Khosla Ventures和Cerberus Capital的1625萬美元種子輪投資，對模型的每一層——嵌入層、注意力機制、多層感知器區塊以及語言模型頭部——進行端到端的低位元量化，沒有任何高精度逃逸通道。每組128個權重保留一個16位元的縮放因子以錨定輸出品質，該公司稱此方法為FP16分組縮放。根據PrismML自行報告的結果，在15項基準測試中，1位元變體保留了全精度模型超過90%的效能，而5.9GB的三元版本則保留了超過95%。

為何蘋果正在關注

此時機正逢蘋果多年來最重要的一次AI推動。該公司於7月13日——PrismML發布前一天——開放了iOS 27的首個公開測試版，該版本圍繞一個重建的Siri助手打造，依賴裝置端與雲端基礎設施的混合模式。蘋果自有的裝置端模型AFM 3 Core Advanced（於WWDC 2026宣布）採用不同的方法：這是一個儲存在快閃記憶體中的200億參數模型，每次請求僅將10億至40億個參數載入主動DRAM中，而非同時保持所有權重活躍。

工程上的取捨十分鮮明。蘋果的稀疏激活架構避免了量化精度損失，但造成了快閃記憶體到記憶體的頻寬瓶頸。PrismML的密集壓縮方法完全消除了該瓶頸——每個參數始終在DRAM中活躍——但引入了精度損失，且可能需要原生晶片支援才能實現完整的速度增益。標準CPU和GPU必須先將三元權重反量化回更高精度，才能使用其乘積累加硬體，這可能抵消運算優勢。蘋果的神經引擎能否在沒有這種開銷的情況下原生執行1位元運算，仍是一個未解的技術問題。

多項獨立報導引述匿名消息來源指出，蘋果在內部嘗試壓縮自有模型以在iPhone上運行時，遭遇了顯著的效能衰退——據報導，這次失敗為PrismML的評估打開了大門。

裝置端AI的財務賭注

蘋果的成本誘因是可以量化的。美銀分析師估計，蘋果最先進的雲端模型AFM 3 Cloud Pro可能僅佔所有Siri AI查詢的約5%，但卻佔加權雲端運算成本的多達67%，原因是處理複雜推理和影像生成任務所需的更高運算強度。該模型運行於Google雲端基礎設施內的Nvidia GPU硬體上——這種依賴關係與蘋果的隱私行銷及其與Google的競爭關係並不相容。

摩根士丹利預測，蘋果的記憶體成本可能在2027會計年度急劇攀升，該行預計蘋果將提高iPhone價格以保護利潤。一個能夠勝任的裝置端模型若能減少流向昂貴雲端基礎設施的查詢比例，將同時解決成本與隱私兩方面的問題。

PrismML的Bonsai 27B目前已在Hugging Face上以Apache 2.0開源授權提供，相容於Apple的MLX框架和Nvidia的CUDA。Hassibi表示，Google Gemma模型的壓縮版本是下一步，隨後將處理超過270億參數的模型。「想像一下，也許三年後，你所需的95%的智慧功能都可在本地端取得——在你的手機、筆電、家用電器上——只有最後5%的高階需求才真正需要雲端，」他對CNBC表示。

對投資人而言，其影響超越了蘋果。如果這種能力水準的裝置端推理得以規模化，可能會降低消費級AI工作負載對雲端GPU基礎設施的需求——這在AI數據中心市場中是目前成長最快的領域之一。去中心化運算網路和雲端推理供應商將面臨可獲取市場的縮小，特別是在那些最容易先在裝置端掌握的應用場景：私密、低延遲、頻繁重複的查詢。蘋果股價於7月14日創下歷史新高，年初至今已上漲約20%，市場正在反映Siri AI升級週期的預期，但利潤率擴張的道路可能取決於解決PrismML目前正在針對的問題。

分析師已對未經驗證的聲明提出謹慎看法。Counterpoint Research研究總監Tarun Pathak表示，真正的考驗將是「數百萬次查詢、數千種裝置組合以及大規模的穩健測試」。IDC的Phil Solis則指出電池續航力可能是具決定性的變數：一個足夠強大以致會被頻繁調用的模型，即使每次推理效率都很高，也可能耗盡手機電量。目前尚未有第三方獨立基準測試發布。

本文僅供資訊參考，不構成投資建議。