애플, '기업용 AI' 온디바이스 연산으로 넓힌다…‘토큰 비용’ 공략

애플은 기업용 AI 시장에서 온디바이스 연산을 전면화하고 있다. 생성형 AI의 에이전트화 진전으로 클라우드 호출량이 늘고, 이에 따라 클라우드 비용 증가 부담과 데이터 보안 부담 증가가 함께 커진다고 설명한다. 애플은 기업용 AI의 온디바이스 처리 확대 중이다.

애플은 3일 기업용 온디바이스 AI 핵심 요소로 성능·보안·비용을 제시했다. 또 AI 사용량 비례 누적되는 클라우드 API 비용을 온디바이스 연산 확대의 주요 배경으로 지목했다. 이에 맥(Mac) 등 단말 내 AI 처리로 비용·보안 부담 완화 전략을 내세웠다.

애플은 이를 뒷받침하는 사례로 260억 개 파라미터 모델의 맥북프로 사용 사례를 제시했다. 비용 계산 전제로는 재무 시뮬레이션 등 수행 가능한 수준의 워크로드를 제시했고, 가정된 사용 조건은 하루 4시간, 월 1억5000만 개 토큰 처리다.

애플은 동일 작업의 클라우드 API 처리 비용을 사용자당 월 450~850달러로 추산했다. 이와 함께 M5 Ultra 탑재 애플 맥 스튜디오 사진도 제시했다.

애플은 맥 스튜디오 기준 추산으로 일정 규모의 AI 작업을 계속 수행할 경우 클라우드 사용료가 커져 기기 구입 초기 비용을 비교적 짧은 기간에 만회할 수 있다고 제시했다. 애플 계산에 따르면 800억 개 파라미터 모델 사용, 하루 12시간 사용, 월 3억 개 토큰 처리 조건의 에이전틱 코딩 워크로드 대상에서 일정 수준 이상 AI 사용 지속 시 맥 구입 초기 비용은 수개월 내 상쇄 가능하다.

이때 클라우드 비용 추산치는 사용자당 월 900~1500달러로 제시됐다. 다만 해당 수치는 특정 클라우드 사업자 가격표 직접 적용 결과가 아니며, 특정 AI 모델 가격표 직접 적용 결과도 아니다.

애플은 일반적으로 사용되는 프런티어 모델의 클라우드 API 비용과 실제 소프트웨어 활용 방식을 토대로 범위를 산정했다고 발표했다. 그러나 구체적 모델명은 비공개이며, 입력·출력 토큰별 계산식도 비공개다. 기업 AI 비용 산정 추가 자료는 수개월 내 공개될 예정이다.

이런 전제 아래 애플은 기업 AI를 클라우드와 온디바이스 환경으로 분리 구동하는 데 초점을 맞췄다. 대규모 학습 작업과 탄력적 연산 자원 필요 작업은 클라우드 활용 대상으로, 민감한 데이터 처리와 반복적 추론, 네트워크 연결 제한 현장 업무는 단말 처리 대상으로 설명됐다.

온디바이스 AI 확대 배경으로는 데이터 주권과 네트워크 제약 환경이 함께 제시됐다. 금융·의료는 데이터 처리 규제가 강해 정보의 외부 인프라 전송 없이 처리할 필요성이 큰 것으로 나타났다.

운송·제조는 네트워크 연결이 상시 보장되기 어려워 로컬 연산 활용 가능성이 부각됐다. 옴디아는 애플 의뢰로 1500명 이상의 기업 기술 책임자와 개발자 등을 대상으로 조사를 실시했다.

조사에서는 AI 인프라 TCO 부담 항목 1위가 클라우드 컴퓨팅·스토리지 39%, 2위가 보안·컴플라이언스 관리 36%, 3위가 소프트웨어 라이선스와 도구 32%로 집계됐다. 또 기업이 사용하는 AI 모델 중 57%는 100억 개 미만 파라미터 규모였고, 옴디아는 로컬 실행 여부를 결정하는 요인으로 모델 규모 자체보다 메모리 용량과 구조를 꼽았다.

온디바이스 AI는 항공과 의료 등 실제 현장으로 활용 분야를 확대하고 있다. 캐세이퍼시픽(Cathay Pacific)은 조종사용 아이패드에 70억 개 파라미터 모델을 적용했으며, 해당 모델은 운항 매뉴얼 검색에 활용된다. 나블라(Nabla)는 의료진 진료 내용 음성 처리 기능을 온디바이스로 구현했다.

이들 사례에서는 네트워크 없이 단말에서 처리하거나 외부 서버 전송을 줄이는 방식이 활용된다. 캐세이퍼시픽(Cathay Pacific)의 처리 방식은 인터넷 연결 없는 단말 내 정보 처리다. 나블라(Nabla)는 민감한 의료 데이터를 외부 서버 전송 없이 처리한다.

애플은 온디바이스 AI 확대 지원 기술로 애플 실리콘 통합 메모리 구조를 제시했다. 통합 메모리 구조는 CPU·GPU·뉴럴 엔진의 단일 메모리 풀 접근 방식이다. 이 방식의 효과로 데이터 이동 부담 감소와 AI 모델 활용 메모리 용량 확보가 제시된다.

M5 Ultra도 최근 공개됐다. M5 Ultra는 최대 512GB 통합 메모리 지원과 초당 1.2TB 메모리 대역폭 지원이 특징이다. 애플은 M5 Ultra 기반으로 수천억 개 파라미터 규모 대형언어모델(LLM)을 맥에서 직접 구동할 수 있다고 설명했다.

애플은 기업 환경에서 AI 모델 활용과 배포를 위한 소프트웨어 측면 프레임워크를 제공하고 있으며, 자체 파운데이션 모델·외부 모델 활용이 가능하다. Core AI를 제공해 개발자 자체 모델의 애플 기기 배포를 지원하고, 애플 실리콘 연산 자원 활용도 지원한다. MLX는 모델 학습 지원과 미세조정 지원 기능을 제공한다.

애플은 기업용 기기 관리 기능도 확대하고 있다. 여러 직원이 교대 사용 하는 사업장 대상의 아이패드용 '인증 게스트 모드'를 이용할 수 있으며, 이 방식은 직원이 회사 계정으로 로그인한 뒤 업무를 수행하고 로그아웃 시 해당 사용자 데이터가 기기에서 삭제된다. 기업 제공 기능으로는 로그인 화면의 업무 환경 맞춤 설정이 가능하고, 인증 방식의 업무 환경 맞춤 설정도 가능하다.

이런 흐름 속에서 애플 방침은 클라우드·온디바이스 병행이다. 비용·보안·네트워크 환경에 따라 기업 AI 워크로드의 단말 분산 전략 확대가 애플 방침이다.

출처: 아이티데일리 (IT DAILY) · 김병주 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241375

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241375