4대의 Mac Studio와 일반 가정용 콘센트로, Apple이 책상 위에서 1조급 AI 모델을 돌리는 방법을 시연했다

흥미로운 점은 iPhone Duo가 거의 모든 시선을 빼앗아간 이번 가을 발표회에서도 Apple이 Mac을 위해 별도의 미디어 브리핑을 열어, 미디어와 크리에이터들에게 8월 말 발표한 신형 Mac mini와 Mac Studio를 소개했다는 것이다.

올해 Apple의 가을 발표회는 조금 ‘특별’했다. 첫 폴더블 iPhone인 ‘iPhone Duo’가 등장했고, 신임 CEO John Ternus가 처음으로 진행을 맡았으며, Apple의 Mac 신제품도 가을 발표회보다 ‘더 일찍 등장’해, 예전처럼 10월이나 11월까지 기다렸다가 Mac을 업데이트하던 관례를 깨뜨렸다. 일부 외신은 기업 고객의 컴퓨팅 하드웨어 수요가 예상보다 강력했고, AI 업그레이드 흐름에 힘입어 Mac Studio와 Mac mini 판매가 급증했기 때문에 Apple이 상업용 및 전문 사용자의 수요를 맞추기 위해 출시 시점을 앞당겼다고 분석했다.

흥미로운 점은 iPhone Duo가 거의 모든 시선을 빼앗아간 이번 가을 발표회에서도 Apple이 Mac을 위해 별도의 미디어 브리핑을 열어, 미디어와 크리에이터들에게 8월 말 발표한 신형 Mac mini와 Mac Studio를 소개했다는 것이다.

브리핑에서 Apple은 다시 한 번 ‘4대의 Mac Studio를 클러스터로 묶어’ 조 단위 파라미터 AI 모델을 돌리는 장면을 보여주며, 표준 가정용 콘센트에 연결하기만 하면 작동하고 특별한 전력 장비는 필요하지 않다고 강조했다. 이는 Apple이 Mac 신제품을 발표할 때 특히 강조해온 점으로, 이번에도 가을 발표회 기간에 다시 공개했다.

AI Agent가 수만 줄의 코드에서 버그를 찾게 하기

현장 시연은 오류가 난 3D 장면으로 시작했다. 이 장면에는 안개와 다양한 조명 효과가 포함되어 있었고, 코드가 1만 줄이 넘었으며, 빌드와 실행에는 문제가 없었지만 화면 전체가 초록색으로 치우쳐 보였다. Apple 현장 인원은 일반적인 프로그램 오류는 컴파일러가 어느 줄에서 잘못됐는지 바로 지적해 주지만, 이런 시각적 버그는 눈으로 직접 찾아야 하므로 개발자가 수만 줄의 코드에서 하나하나 점검해야 하며, 버그를 잡는 데 한 시간이 들면 새 기능 개발 시간도 한 시간 줄어든다고 설명했다.

시연자는 Xcode를 열어 백그라운드에서 실행되는 AI Agent를 호출했고, 입력한 프롬프트의 뜻은 대략 다음과 같았다. “텍스처가 깨졌다. 프로젝트를 확인하고, 디버깅 도구를 사용해 원인을 찾아내며, 수정 방법을 제안해 달라.”

프롬프트를 전송하자 연산을 맡은 4대의 Mac Studio가 바쁘게 움직이기 시작했다. Agent는 스킬을 불러오고, Terminal에서 명령을 실행하고, 코드를 스캔하며 문제의 원인을 단계적으로 추적했고, 마지막에는 수정 제안을 내놓았다. 옆 스크린에서는 4대 기기의 GPU 사용률이 동시에 100%까지 치솟았지만, 기기 자체는 여전히 조용하게 작동하고 있었다.

Apple 현장 인원은 이런 작업을 Agent에 맡기면 대략 몇 분에서 10분 정도 걸리며, 개발자가 직접 수작업으로 점검하면 며칠이 걸릴 수도 있다고 말했다.

NeurIPS에서 가을 발표회까지, Mac 클러스터 시연은 점점 개발자 일상에 가까워지고 있다

이것은 Apple이 4대의 Mac Studio로 1조급 모델을 돌린 첫 사례가 아니다. 2025년 12월 NeurIPS 대회에서 Apple은 이미 M3 Ultra Mac Studio 4대로 구성한 클러스터를 전시하며, 관람객들이 Xcode 안에서 1조 파라미터 모델로 텍스트와 코드를 생성해 볼 수 있게 했다.

올해 6월 WWDC26에서는 Apple이 로컬 AI 도구 LM Studio와 협력해 4대의 Mac Studio에서 중국 AI 스타트업 월지암면(Moonshot AI)의 Kimi K2.6을 실행했고, MacBook Neo와 iPhone으로 원격 접속할 수 있게 했다.

이번 버전에서는 칩이 M5 Ultra로 바뀌었고, 모델은 월지암면이 6월에 출시한, 프로그래밍 개발에 특화된 Kimi K2.7 Code로 바뀌었다. 이번 시연은 Agent가 스스로 명령을 실행하고, 버그를 추적하며, 수정 제안을 내놓는 방식이었다. 세 차례 시연 모두 ‘4대의 Mac Studio와 1조급 모델’ 조합이었고, Apple이 그려낸 사용 시나리오는 시연이 거듭될수록 개발자의 일상 업무에 더 가까워졌다.

1TB 메모리로 700GB 모델을 돌리는 비결은 RDMA와 통합 메모리였다

이 클러스터의 각 Mac Studio는 M5 Ultra 칩과 256GB 통합 메모리를 탑재했고, 4대를 합치면 1TB이며, 메모리 대역폭 총합은 초당 4.8TB에 달한다. 시연에 사용된 Kimi K2.7 Code는 4-bit 양자화를 적용해 크기가 약 700GB다.

왜 더 큰 모델을 넣지 않았을까? Apple 현장 인원은 이런 종류의 모델을 실행할 때는 일부 메모리를 남겨 두어야 컨텍스트 길이를 확장할 수 있으므로, 1TB 클러스터에 약 700GB 규모의 모델을 맞춘 것이라고 설명했다.

4대의 기기가 하나의 모델을 함께 실행할 수 있는 이유는 Apple이 macOS Tahoe 26.2에 추가한 RDMA over Thunderbolt 기능 덕분이다. RDMA(원격 직접 메모리 접근)는 원래 슈퍼컴퓨터와 데이터센터에서 많이 쓰였으며, 기기 간 데이터 전송 시 운영체제와 CPU 처리를 건너뛰고 메모리 사이에서 직접 데이터를 옮기게 해 준다. 미국 기술 유튜버 Jeff Geerling의 테스트 보고서에 따르면, RDMA를 활성화하면 기기 간 메모리 접근 지연이 약 300마이크로초에서 50마이크로초 이하로 줄어든다.

또 다른 조건은 Apple 칩의 통합 메모리 설계다. Mac의 CPU와 GPU가 같은 메모리를 공유하므로 GPU가 이 메모리를 직접 사용해 모델을 실행할 수 있으며, M5 Ultra는 한 대당 최대 512GB까지 구성할 수 있다.

클러스터를 구성하는 목적은 두 가지다. 첫째는 성능 향상으로, 4대 클러스터의 성능은 최대 단일 기기의 3배까지 갈 수 있다. 둘째는 용량 확장으로, 단일 기기에 담기지 않는 모델도 실행할 수 있게 하는 것이다. M5 Ultra의 GPU는 각 코어마다 신경망 가속기를 내장하고 있으며, Apple은 프롬프트 처리 속도가 M3 Ultra의 최대 4배에 달한다고 밝혔다.

같은 기기일 필요는 없고, Thunderbolt 5만 있으면 연결할 수 있다

Apple 설명에 따르면, 클러스터를 구성할 때 같은 기기를 쓸 필요는 없으며 Thunderbolt 5만 있으면 연결할 수 있다. 이전 세대 M3 Ultra Mac Studio나 M5 Pro, M4 Pro가 탑재된 Mac mini도 참여할 수 있다.

두 대는 케이블 하나만 있으면 연결할 수 있고, 4대는 각 기기가 서로 직접 연결되어야 하므로 총 6개의 Thunderbolt 케이블이 필요하며, 메쉬(mesh) 토폴로지를 이뤄 각 Mac Studio가 마치 하나의 시스템처럼 서로의 메모리를 읽고 쓸 수 있게 한다. 데이지 체인(daisy chain) 방식으로 연결하면 더 많은 기기를 붙여 더 큰 메모리 용량을 확보할 수 있지만, 기기 간 지연이 길어지고 성능도 영향을 받는다.

최대 약 600~700와트, 일반 가정용 콘센트로도 전력 공급이 가능하다

《INSIDE》는 일반 사용자가 집에서 클러스터를 구성할 때 전력 공급 문제를 걱정해야 하는지 물었다. Apple 인원은 이 클러스터는 표준 가정용 콘센트에 연결하는 것이며 별도의 특수 장비가 필요하지 않다고 답했다. 다른 하드웨어로 비슷한 구성을 만들 경우에는 수천 와트의 전력이 필요할 수 있다고 덧붙였다.

Apple은 현장의 전력 소모 수치도 공개했다. 시연 시작 전, 4대의 Mac Studio가 대기 상태일 때 총 전력은 약 71와트였고, Apple은 모델 실행과 버그 수정 작업으로 GPU 사용률이 100%에 도달했을 때 전체 전력 소모가 약 600~700와트라고 밝혔다. 현장 인원은 때로는 GPU 한 장의 전력 소모만으로도 이 정도 숫자가 나올 수 있다고 덧붙였다.

Apple 현장 인원은 미디어와 크리에이터들에게 기기를 만져 보며 작동 중 온도를 확인해 보라고도 했다. 《INSIDE》가 4대 기기의 GPU 사용률이 100%에 도달했을 때 실제로 만져 본 결과, 케이스는 여전히 차가웠고 눈에 띄는 발열이 없었으며, 기기도 상당히 조용하게 작동했다.

이것이 바로 Apple이 말한 ‘일반 가정용 콘센트로도 전력을 공급할 수 있다’는 구체적인 상황이다. 1조급 모델은 개인 작업자와는 매우 먼 이야기처럼 들리지만, Apple은 이를 4대의 데스크톱 컴퓨터에서 실행하게 했고, 전력 소모량도 그대로 드러냈다.

한 번의 버그 수정에 약 60달러! Apple이 모델을 로컬에 두자고 주장하는 이유

Apple 현장 인원은 같은 버그 수정 작업을 클라우드 API로 보내 실행하면 한 번에 약 60달러가 든다고 설명했다. 팀에 처리해야 할 문제가 수백 개 있다면 누적 비용은 수만 달러가 되지만, 로컬에서 실행하면 클라우드 토큰 비용이 0이다. 또한 개발 중인 코드는 대개 아직 공개되지 않았고, 많은 기업은 이를 클라우드로 올리길 원치 않는다. 모델을 자체 클러스터에서 실행하면 토큰 기준 과금도 피할 수 있고, 코드도 회사 밖으로 나가지 않는다.

Apple 현장 인원은 또한 이처럼 구축된 클러스터에 IP 주소 하나만 설정하면 회사 서버실이나 어디든 둘 수 있으며, 전 세계에 흩어져 있는 개발자와 팀원들이 네트워크를 통해 원격으로 접속해 버그 수정과 AI 작업을 이 클러스터에 맡길 수 있어, 개발자는 새 기능을 만드는 데 시간을 쓸 수 있다고 설명했다.

신형 Mac Studio는 9월 22일부터 출하되며, M5 Ultra 모델의 시작가는 NT$199,900부터다. 최고 사양인 512GB 메모리 구성은 10월 말에야 출하된다.

출처: INSIDE · Sisley
원문: https://www.inside.com.tw/article/42410-apple-mac-studio-cluster-trillion-parameter-ai-standard-outlet

참고자료

• https://www.inside.com.tw/article/42410-apple-mac-studio-cluster-trillion-parameter-ai-standard-outlet