四台 Mac Studio、一般家用插座：Apple 展示如何在桌上跑兆級 AI 模型

有意思的是，在 iPhone Duo 幾乎拉走所有目光的這場秋季發表會上，Apple 仍為 Mac 特地辦了一場媒體簡報，向媒體與創作者展示 8 月底發表的新款 Mac mini 與 Mac Studio。

今年的 Apple 秋季發表會比較「特別」一點。除了首款摺疊 iPhone「iPhone Duo」登場、新任 CEO John Ternus 首次主持，Apple 的 Mac 新品也比秋季發表會「更早登場」，打破過往要等到 10 月或 11 月才更新 Mac 的慣例。部分外媒分析，這是因為企業客戶對運算硬體的需求出乎意料地強烈，Mac Studio 和 Mac mini 在這波 AI 升級潮帶動下銷量激增，Apple 因此決定提前推出，滿足商用與專業使用者。

有意思的是，在 iPhone Duo 幾乎拉走所有目光的這場秋季發表會上，Apple 仍為 Mac 特地辦了一場媒體簡報，向媒體與創作者展示 8 月底發表的新款 Mac mini 與 Mac Studio。

簡報中，Apple 再次展示「將四台 Mac Studio 組成叢集」來跑兆級參數 AI 模型的場景，並強調接上標準家用插座就能運作，不需要特殊供電設備。這是 Apple 發表 Mac 新品時特別強調的一點，這次也在秋季發表會期間再次對外展示。

讓 AI Agent 在上萬行程式碼裡找 Bug

現場展示從一個出錯的 3D 場景開始。這個場景包含霧氣、多種光影效果，程式碼超過一萬行，建置和執行都沒有問題，畫面卻整片偏綠。Apple 現場人員解釋，一般的程式錯誤，編譯器會直接指出哪一行出錯；這類視覺上的 Bug 則只能靠肉眼發現，開發者得在數萬行程式碼裡逐一排查，每花一小時除錯，就少一小時開發新功能。

展示者開啟 Xcode，呼叫在背景執行的 AI Agent，輸入的提示大意是：「紋理壞掉了，請檢查專案、使用除錯工具找出原因，並建議修正方式。」

送出提示後，負責運算的四台 Mac Studio 開始忙碌起來。Agent 載入技能、在 Terminal 執行指令、掃描程式碼，逐步追查問題出在哪裡，最後會提出修正建議。旁邊的螢幕上，四台機器的 GPU 使用率同時衝到 100%，機器本身仍安靜地運作著。

Apple 現場人員表示，這類任務交給 Agent 大約需要數分鐘到 10 分鐘，開發者自己人工排查則可能要花上好幾天。

從 NeurIPS 到秋季發表會，Mac 叢集展示越來越貼近開發者日常

這不是 Apple 第一次拿四台 Mac Studio 跑兆級模型。2025 年 12 月的 NeurIPS 大會上，Apple 便曾在攤位展示由四台 M3 Ultra Mac Studio 組成的叢集，讓觀眾在 Xcode 裡用 1 兆參數模型生成文字與程式碼。

今年 6 月的 WWDC26，Apple 與本地 AI 工具 LM Studio 合作，在四台 Mac Studio 上執行中國 AI 新創月之暗面（Moonshot AI）的 Kimi K2.6，並從 MacBook Neo 與 iPhone 遠端存取。

這次的版本，晶片換成 M5 Ultra，模型換成月之暗面 6 月推出、專攻程式開發的 Kimi K2.7 Code。這次展示的，是讓 Agent 自己執行指令、追查 Bug，並提出修正建議。三次展示都是「四台 Mac Studio 加一個兆級模型」的組合，而 Apple 描繪的使用情境則一次比一次接近開發者的日常工作。

1TB 記憶體跑 700GB 模型，靠的是 RDMA 與統一記憶體

這組叢集的每台 Mac Studio 配備 M5 Ultra 晶片與 256GB 統一記憶體，四台合計 1TB，記憶體頻寬合計每秒 4.8TB。展示使用的 Kimi K2.7 Code 採 4-bit 量化，大小約 700GB。

為什麼不塞一個更大的模型？Apple 現場人員解釋，執行這類模型時，需要預留部分記憶體，讓上下文長度有擴充空間，所以 1TB 的叢集搭配約 700GB 的模型。

四台機器能共同執行同一個模型，靠的是 Apple 在 macOS Tahoe 26.2 加入的 RDMA over Thunderbolt 功能。RDMA（遠端直接記憶體存取）原本多用在超級電腦與資料中心，讓機器之間傳輸資料時跳過作業系統與 CPU 的處理，直接在記憶體之間搬移。根據美國技術 YouTuber Jeff Geerling 的測試報告，啟用 RDMA 後，跨機器存取記憶體的延遲從約 300 微秒降到 50 微秒以下。

另一個條件是 Apple 晶片的統一記憶體設計，Mac 的 CPU 與 GPU 共用同一塊記憶體，GPU 可以直接使用這些記憶體執行模型，M5 Ultra 單台最高可配到 512GB。

而組成叢集有兩個目的：一是提升效能，四台叢集的效能最高可達單台的 3 倍；二是擴充容量，讓單台放不下的模型也能執行。M5 Ultra 的 GPU 每個核心都內建神經網路加速器，Apple 表示，處理提示的速度最高可達 M3 Ultra 的 4 倍。

不必同款機器，有 Thunderbolt 5 就能串接

根據 Apple 說明，組叢集不必使用同款機器，只要具備 Thunderbolt 5 就能串接。前一代 M3 Ultra Mac Studio，或搭載 M5 Pro、M4 Pro 的 Mac mini 都可以加入。

兩台只需要一條線就能連接；四台則必須讓每台彼此直接相連，總共用上 6 條 Thunderbolt 線，形成網狀拓撲（mesh），讓每台 Mac Studio 能像同一個系統一樣讀寫彼此的記憶體。如果改用菊鍊（daisy chain）方式串接，可以接更多台、換取更大的記憶體容量，但機器之間的延遲會拉長，效能也會受影響。

滿載約 600 至 700 瓦，一般家用插座就能供電

《INSIDE》詢問，一般使用者在家組叢集時，需不需要擔心任何供電問題。Apple 人員回答，這組叢集接的就是標準家用插座，不需要任何特殊設備；若用其他硬體搭出類似配置，可能需要數千瓦的電力。

Apple 也提供了現場的功耗數字。展示開始前，四台 Mac Studio 待機時合計約 71 瓦；Apple 表示，執行模型與排錯任務、GPU 使用率達到 100% 時，整體功耗約為 600 至 700 瓦。現場人員補充，有時光是一張 GPU 的功耗就可能達到這個數字。

Apple 現場人員也邀請媒體與創作者觸摸機身，確認運作時的溫度。《INSIDE》在四台機器 GPU 使用率達到 100% 時實際觸摸，機殼摸起來仍是涼的，沒有明顯發燙，機器運作時也相當安靜。

這就是 Apple 所說「一般家用插座就能供電」的具體情境。兆級模型聽起來離個人工作者很遠，但 Apple 讓它在四台桌上型電腦上執行，也把耗電量直接攤在陽光下。

一次排錯約 60 美元！Apple 為何主張把模型留在本地

Apple 現場人員表示，他們試算過，同樣的排錯任務若送到雲端 API 執行，一次約需 60 美元；團隊若有數百個問題要處理，累積起來就是數萬美元，而使用本機執行則是 0 雲端 token 費用。此外，開發中的程式碼往往尚未公開，不少企業並不希望上傳到雲端。把模型放在自己的叢集上執行，就不必按 token 計費，程式碼也不會離開公司。

Apple 現場人員也解釋，只要為這座建置好的叢集設定一個 IP 位址，它可以放在公司機房或任何地方，而分散在世界各地的開發者與團隊成員都可以透過網路遠端連線，將 Bug 排錯與 AI 任務交由這座叢集處理，開發者就能把時間留給寫新功能。

新款 Mac Studio 將於 9 月 22 日開始出貨，M5 Ultra 機型起價 199,900 元新台幣起，最高的 512GB 記憶體配置則要等到 10 月底出貨。

來源: INSIDE · Sisley 原文: https://www.inside.com.tw/article/42410-apple-mac-studio-cluster-trillion-parameter-ai-standard-outlet

參考資料

• https://www.inside.com.tw/article/42410-apple-mac-studio-cluster-trillion-parameter-ai-standard-outlet