蘋果與矽谷初創公司洽談，壓縮 AI 模型可於 iPhone 上運行
Apple in talks with startup that shrinks AI models to run on an iPhone
作者: MacKenzie Sigalos | 時間: Tue, 14 Jul 2026 18:31:08 GMT | 來源: CNBC
f t
Apple 正與一家矽谷小型初創公司進行談判，該公司聲稱有能力縮小強大的人工智慧模型使其直接於 iPhone 上運行，該初創公司執行長向 CNBC 表示。
PrismML 是由加州理工學院衍生出的、由 Khosla Ventures 支持的初創公司，於週二公開發布了阿里巴巴開源 Qwen 模型的壓縮版本。該公司表示，將該模型從約 54 GB 縮減至 4 GB 以下，使其全部 270 億個參數都能在 iPhone 15 或更新機型上運行。
PrismML 執行長 Babak Hassibi 告訴 CNBC，蘋果及其他公司正在評估該初創公司的模型，並測量其設備上的速度、能源效率和性能。
「他們目前正在評估我們的技術，」Hassibi 談及蘋果時說道。
他將討論形容為非常早期，並表示目前還不清楚會導致什麼結果，但「進展十分順利。」
蘋果尚未立即回應評論請求。
《資訊》此前曾報導了 PrismML 的突破。
此次發布就在蘋果向公眾開放 iOS 27 公開測試版的前一天，讓 iPhone 用戶首次獲得公司長期延遲的 Siri 重構的廣泛訪問。蘋果正試圖使 Siri 與 OpenAI 和 Anthropic 的助理更具競爭力，同時在設備上保留更多個人資訊和 AI 處理。
公司的這一方法有望解決 Apple AI 策略面臨的核心限制之一。最強大的模型通常需要太多記憶體和運算能力才能於智慧型手機上運行。
蘋果可向雲端模型發送複雜請求，但直接在 iPhone 上運行更多 AI 將減少將數據發送到遠端伺服器的延遲，降低雲端計算成本，並支持公司的隱私訴求。這還能允許某些功能在不連網的情況下運作。
Creative Strategies 總裁兼首席分析師 Carolina Milanesi 表示，較小的模型讓蘋果得以將更多更具挑戰性的功能移至 iPhone，包括計算攝影、視頻生成以及依賴敏感個人數據的健康或健身工具。
「能在設備上做得越多越好，」她指出，用戶希望保護私密的醫療和藥物數據。
PrismML 表示，其方法通過大幅簡化內部資訊的存儲方式來壓縮 AI 模型，將每個值的精度從 16 位減少到僅一個或三個可能值。這大幅減少了存儲和運行模型所需的記憶體。
Hassibi 將其比作晶片產業從 8 位運算轉向 4 位運算的進程，但進一步推進。
該初創公司表示，壓縮後的模型在現有硬體上運行時，使用的記憶體減少 10 到 15 倍，生成回應的速度快 6 到 8 倍，消耗的能源減少 3 到 6 倍。
然而，Hassibi 承認存在權衡。PrismML 的模型通常會損失幾個百分比的整體性能，事實記憶能力在推理、數學和編程等技能之前會變弱，他說。
PrismML 將免費發布模型的兩個壓縮版本。它們設計用於在包括 iPhone、MacBook 和搭載 Nvidia 的電腦在內的日常設備上運行。
該技術源自 Hassibi 在加州理工學院的研究小組。該大學擁有底層專利，並獨家授權給 PrismML。3 月份，該公司以 Khosla Ventures 和其他投資者為支持籌集了 1625 萬美元的種子輪融資。
Hassibi 表示，Google 的開源 Gemma 模型隨後也在管道中，隨後是許多更大的模型，包括目前通常需要數據中心硬體的邊界實驗室的那些。
根據 PrismML，該技術最終不僅限於電話和筆記本電腦，還可擴展到機器人、自主系統和其他需要快速做出決定而不依賴雲端連接的產品。
「非常重要的是智慧必須是本地化的，並且可以快速運行，」他說。
蘋果已經在設備本地運行其 AI 系統的部分內容，包括翻譯、一些摘要以及與個人資訊緊密相關的功能。更複雜的請求會路由到蘋果的私有雲基礎設施或外部模型。
Asymco 創辦人 Horace Dediu 表示，蘋果可能試圖將絕大多數常見 Siri 互動保留在設備上，同時將最耗時的需求留給雲端。
優勢不僅是使用較少的記憶體，他說，而是在相同的物理限制內容納功能更強大的模型。
「他們試圖找出他們能在設備上容納多大的模型，以及多麼聰明的模型，」Dediu 說。保留本地常見請求給予蘋果更低的延遲、更大的隱私以及潛在更低的授權和雲端成本。
蘋果在將這些模型投入使用方面可能具有優勢，因為它共同設計 iPhone 的晶片和軟體，從而對設備上的 AI 運行具有更嚴密的控制。
但分析師警告說，PrismML 的聲稱仍需在受控演示之外得到證明。
Counterpoint Research 研究主管 Tarun Pathak 表示，模型在長提示上的性能、多任務處理期間的耗電以及在百萬次請求中的可靠性至關重要。
「最終的測試將是百萬次查詢、數千種設備組合以及大規模的堅實測試，」Pathak 說。
Phil Solis，領導 IDC 的客戶處理器研究，表示功耗可能是最大的未解之謎。一個有能力經常使用或作為類似代理任務持續在後台運行的模型可能會即使需要較少記憶體也會耗盡手機電池。
PrismML 的發布正值激烈辯論，即 AI 效率的改進最終是否可能減少對記憶體晶片和昂貴數據中心基礎設施的需求。
記憶體已成為消費電子和 AI 伺服器上最大的限制和成本之一。Morgan Stanley 估計，Apple 平均每比特的動態隨機存取記憶體成本可能在 2027 財年同比增長約 190%，NAND 成本上漲約 180%。NAND 通常用於閃存和固態硬碟。
該公司預計蘋果將提高可比較的 iPhone 18 系列起步價格約 200 美元以保護利潤空間。
PrismML 表示，其方法允許通常需要八個 GPU 運行的雲端模型在一個上運行，同時允許先前需要服務器的模型移至電話和筆記本電腦。
這可能減少用於特定 AI 任務所需的記憶體或運算容量。但這並不意味著整體晶片需求必然下降。
D.A. Davidson 分析師 Gil Luria 表示，縮小模型不會消除對處理器或記憶體的需求。這可能只是將更多這些晶片從數據中心移至電話和其他設備。
「這不是你將不需要晶片，」Luria 說。「你仍然需要 GPU，你仍然需要記憶體。」
他補充說，在個別設備上運行 AI 實際上可能比使用共享數據中心基礎設施效率更低，因為手機中的晶片可能大部分時間處於閒置狀態。
效率突破也可能導致更多的使用而非更少的支出，因為便宜更快速的 AI 促成了新產品並促使消費者更頻繁地運行模型。
然而，市場迅速懲罰任何表明 AI 所需記憶體少於預期的事情。美光股份在 3 月因 Google 發表其 TurboQuant 論文後跳水，該論文旨在削減記憶體使用而不影響模型性能，儘管股票後來恢復。
PrismML 的公開發布讓普通用戶和投資者有機會測試其聲稱的成效是否能在實驗室之外站得住腳。對蘋果而言，直接在 iPhone 上運行更強大的 AI 可能幫助該公司在不放棄使其產品獨具特色的隱私和硬體整合的情況下改進 Siri。
「雲端和設備上 AI 的結合可以服務更完整、高效且以隱私為中心的 AI 體驗，」Counterpoint 的 Pathak 說。「複雜任務將卸載到雲端，而敏感、延遲關鍵且隱私相關的任務將在設備上執行。」