Apple 於 WWDC 發表了 Apple Intelligence,但支援機種要 A17 Pro 或 M1 以上的機種,當中手機只有 iPhone 15 Pro / Pro Max 支援,連現役的 iPhone 15 都不行。天風國際證券分析師郭明錤撰文解釋了為何 iPhone 15 不能運行 Apple Intelligence,他指關鍵在於 DRAM 的大小,而非 AI 算力。
重點在 DRAM 大小而非算力
郭明錤指出,iPhone 15 配備的 A16 處理器無法支援 Apple Intelligence,但 M1 晶片的機型可以支援。這表明支援 Apple Intelligence 的裝置端模型的關鍵在於 DRAM 大小,而不是 AI 算力(TOPS,Trillions of Operations Per Second,每秒兆次操作)。具體來說,A16 的 AI 算力約為 17 TOPS,M1 的 AI 算力則約為 11 TOPS,但 A16 的 DRAM 僅為 6GB,而 M1 的 DRAM 則為 8GB。
至少 8GB DRAM
Apple Intelligence 採用裝置端 3B LLM(應為 FP16 格式),經過壓縮後(採用 2-bit 與 4-bit 的混合配置),運行時需要預留約 0.7-1.5GB 的 DRAM。這意味著,裝置要支持 Apple Intelligence,至少需要配備 8GB 的 DRAM,這也是為何 iPhone 15 Pro 能夠運行該功能的原因之一。
郭明錤推論指出: AI 應用與 DRAM 需求:若要在裝置端強化 AI 應用,至少需要部署 3B LLM,並根據壓縮方式確定 DRAM 規格。
AI 算力需求:微軟認為 AI PC 的關鍵規格是 40 TOPS 的算力,但對於 Apple 而言,配合雲端 AI(Private Cloud Compute),11 TOPS 的算力已足夠支持裝置端 AI 應用。
消費者認知:消費者在選購微軟的 AI PC 時可能會因為算力計算感到困惑,而 Apple 則直接告知哪些機型支援 Apple Intelligence,使其在銷售上具有明顯優勢。
未來升級:未來,Apple Intelligence 的裝置端 AI 可能會升級到 7B LLM,屆時將需要更大的 DRAM 來運行。這或將成為 Apple 高低階機種產品區隔的一部分策略。
有待觀察:使用者體驗是否如 Apple 宣稱的那麼美好仍有待觀察,他補充指 Gemini 在宣傳上就曾犯過言過其實的錯誤。
成功定義 AI 裝置:Samsung S24 的 AI 功能有限,微軟的 AI PC 目前仍讓消費者感到困惑,但 Apple 成功定義了裝置端 AI (至少消費者已清楚知道 Apple 的 AI 裝置功能豐富且有哪些賣點),而這會加速競爭對手的模仿與追趕,進而帶動裝置端 AI 相關產業的快速成長。
重點在 DRAM 大小而非算力
郭明錤指出,iPhone 15 配備的 A16 處理器無法支援 Apple Intelligence,但 M1 晶片的機型可以支援。這表明支援 Apple Intelligence 的裝置端模型的關鍵在於 DRAM 大小,而不是 AI 算力(TOPS,Trillions of Operations Per Second,每秒兆次操作)。具體來說,A16 的 AI 算力約為 17 TOPS,M1 的 AI 算力則約為 11 TOPS,但 A16 的 DRAM 僅為 6GB,而 M1 的 DRAM 則為 8GB。至少 8GB DRAM
Apple Intelligence 採用裝置端 3B LLM(應為 FP16 格式),經過壓縮後(採用 2-bit 與 4-bit 的混合配置),運行時需要預留約 0.7-1.5GB 的 DRAM。這意味著,裝置要支持 Apple Intelligence,至少需要配備 8GB 的 DRAM,這也是為何 iPhone 15 Pro 能夠運行該功能的原因之一。郭明錤推論指出:
AI 應用與 DRAM 需求:若要在裝置端強化 AI 應用,至少需要部署 3B LLM,並根據壓縮方式確定 DRAM 規格。
AI 算力需求:微軟認為 AI PC 的關鍵規格是 40 TOPS 的算力,但對於 Apple 而言,配合雲端 AI(Private Cloud Compute),11 TOPS 的算力已足夠支持裝置端 AI 應用。
消費者認知:消費者在選購微軟的 AI PC 時可能會因為算力計算感到困惑,而 Apple 則直接告知哪些機型支援 Apple Intelligence,使其在銷售上具有明顯優勢。
未來升級:未來,Apple Intelligence 的裝置端 AI 可能會升級到 7B LLM,屆時將需要更大的 DRAM 來運行。這或將成為 Apple 高低階機種產品區隔的一部分策略。
有待觀察:使用者體驗是否如 Apple 宣稱的那麼美好仍有待觀察,他補充指 Gemini 在宣傳上就曾犯過言過其實的錯誤。
成功定義 AI 裝置:Samsung S24 的 AI 功能有限,微軟的 AI PC 目前仍讓消費者感到困惑,但 Apple 成功定義了裝置端 AI (至少消費者已清楚知道 Apple 的 AI 裝置功能豐富且有哪些賣點),而這會加速競爭對手的模仿與追趕,進而帶動裝置端 AI 相關產業的快速成長。
消息來源:PhoneArena