“AI 구독료 잡는다”…엔비디아, ‘RTX 스파크’로 로컬 AI 시장 공략

엔비디아가 로컬 AI 시장 공략과 AI 구독료 부담 완화를 지향하며 블랙웰 GPU와 그레이스 CPU를 단일 패키징한 엣지 슈퍼칩 'RTX 스파크(RTX Spark)'를 공개했다. 엔비디아는 이를 개인용 PC에 고용량 메모리와 고성능 AI 연산을 집약한 제품으로 제시했다.

에이수스·델·HP·레노버·MS·MSI는 RTX 스파크를 탑재한 윈도우 노트북 라인업을 동시에 공개했다. 이 제품군은 '개인용 엣지 워크스테이션'을 표방했다.

제품군 사양은 최대 128GB 통합 메모리와 1페타플롭스(PFLOPS) AI 연산 성능이다. 엔비디아는 이런 구성을 바탕으로 외부 클라우드 의존도를 축소하고, 기기 자체에서 LLM과 지능형 에이전트를 독립 구동하는 방향을 내세웠다.

현장에서는 이런 목표를 가능하게 하는 아키텍처의 최대 차별점으로 메모리 구조가 꼽혔다. 일반 외장 그래픽카드는 그래픽 전용 메모리(GDDR)를 사용한다.

반면 RTX 스파크 슈퍼칩은 LPDDR 기반 대용량 통합 메모리를 채택했다. 관계자들은 이 방식의 대역폭이 최신 GDDR 대비 낮지만, 핵심은 속도보다 한 번에 올릴 수 있는 데이터 용량의 우위에 있다고 설명했다.

기존 데스크톱 최고 사양 GPU는 메모리 한계 때문에 70B급 대형 모델에 대용량 문맥까지 얹어 로컬 구동하기 어렵다. 데스크톱 최상위 RTX 5090의 VRAM은 32GB이며, 4비트 양자화 기준 70B 모델의 가중치 용량은 약 35GB다. 이 때문에 RTX 5090 단독으로는 70B급 모델 탑재가 불가하며, 수천 페이지 문서 처리를 위한 Context 메모리를 추가할 경우에는 구동이 불가하다.

반면 128GB 통합 메모리 모델은 GPU 영역에 할당 가능한 용량이 약 100GB다. 현장 관계자에 따르면 이 구성에서는 큐웬(Qwen) 3.8·엔비디아 네모트론 74B의 구동이 가능하다. 또 수천 페이지 문서를 컨텍스트로 넣어도 처리가 가능하다.

현장 관계자에 따르면 피크 속도는 다소 느리다. 다만 로컬에서 작업 전 과정을 완결할 수 있다는 점이 핵심 차이다.

전력 설계도 낮은 TDP를 바탕으로 구성됐다. CPU+GPU 최대 소비전력(TDP)은 80W 수준이며, 240W 이상 대형 어댑터 대신 100~120W 소형 어댑터를 사용한다. 이 소형 어댑터는 일반 콘센트 직결형 형태이며, 소형 어댑터로 시스템 전체를 구동할 수 있다. 또한 배터리만으로 8K 영상 편집이 가능하고, 배터리만으로 90GB 규모 3D 장면 렌더링도 가능하다.

RTX 스파크 런칭 이벤트 현장 사진은 권영석 기자가 제공했다. 최근 기업들의 로컬 AI 도입 수요가 있는 가운데, 현장에서는 높은 실무적 효용성이 소개됐다.

현장에서는 과거 공개 리눅스 기반 AI 전용 장비와 대비해 윈도우 운영체제(OS) 기반으로 제작된 점이 강조됐다. 이 장비는 헤르메스 등 백그라운드 상시 가동 가능 AI 에이전트를 구동할 수 있고, 문서 정리와 코딩 같은 백그라운드 작업이 가능하다고 소개됐다.

동시에 전면에서는 오피스 작성, 웹서핑, 어도비 작업을 병행할 수 있어 평소 쓰던 PC와 유사한 사용성을 갖췄다고 설명됐다. 이에 따라 AI 에이전트를 상시 가동하면서 일반 PC 작업을 병행할 수 있는 점이 강점으로 평가됐고, 이는 하이브리드 워크플로우로 연결된다고 전해졌다.

이 같은 하이브리드 워크플로우는 사내 데이터 유출 차단과 기업 총소유비용(TCO) 최적화 효과로 이어진다고 소개됐다. 현장 기술진은 클라우드 토큰 비용이 매월 수백 달러 청구될 수 있다며, 일상적 반복 작업과 데이터 셋업은 기기 내부 로컬 LLM으로 처리하는 편이 유리하고 고난도 추론만 클라우드로 이관하는 방식이 비용 면에서 유리하다고 설명했다.

현장 기술진은 이 같은 방식이 자체 AI 서버 구축 부담이 큰 중소·중견기업에 적합하다고 밝혔다. 또 민감 데이터를 외부로 유출하지 않고도 부서별 배포가 가능해 안전하고 현실적인 엣지 AI 대안이라고 설명했다.

출처: 아이티데일리 (IT DAILY) · 권영석 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=242261

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=242261