디노티시아, 美서 ‘VDPU 4장 서버’ 성능 선보여

디노티시아는 18일 미국 캘리포니아 산타클라라 컨벤션센터에서 개최된 'AI Infra Summit 2026'에 참가해 벡터 검색 전용 프로세서 'VDPU(Vector Data Processing Unit)'의 서버 환경 확장 아키텍처를 공개했다고 발표했다.

디노티시아는 이전 'FMS(Future of Memory and Storage) 2026'에서 VDPU 칩·가속기 카드를 공개한 데 이어, 이번 행사에서는 이를 실제 서버 환경으로 적용하는 방향으로 범위를 확대했다. 현장에서는 VDPU 카드 4장 탑재 서버 구성을 시연했다.

행사 발표는 양세현 디노티시아 CTO가 진행했다. 발표 주제는 'Rethinking AI Infrastructure with Dedicated Vector Silicon'이었으며, 양세현 CTO는 발표에서 VDPU 아키텍처와 성능 평가 결과를 소개했다.

현재 1세대 VDPU ASIC은 칩 동작 특성 측정·검증을 위한 특성화를 진행 중이다. 디노티시아는 올해 4분기부터 ASIC 기반 평가를 시작할 계획이다.

FPGA 기반 검증에서는 FPGA 기반 평가 대상인 VDPU 카드 4장 탑재 서버를 비교 대상인 동일 소프트웨어 스택 구동 듀얼소켓 CPU 전용 서버와 비교했다. 4096차원 멀티모달 워크로드 기준으로 FPGA 기반 평가 결과 벡터 검색 처리량은 최대 5.77배를 기록했다. 인덱스 구축에 사용한 호스트 CPU 사용량은 92% 감소했고, 인덱스 구축에 사용한 메모리는 73% 감소했다.

이 과정에서 검색 재현율은 CPU 전용 환경과 동등 또는 그 이상으로 나타났다. 처리량 증가는 검색 품질 저하 없음을 함께 보여줬다. 이후 ASIC 기반 VDPU의 목표는 CPU 서버 대비 벡터 검색 성능 최대 10배 수준으로 제시됐다.

디노티시아는 생성은 GPU가 맡고 검색은 VDPU가 맡는다고 설명했다. GPU의 역할은 모델 실행과 답변 생성에 집중하는 것이다. VDPU의 역할은 외부 정보 검색 및 답변 생성 활용을 지원하는 것이며, 적용 구조는 검색 증강 생성(RAG)·AI 에이전트의 벡터 검색 담당이다.

양세현 디노티시아 최고기술책임자(CTO)는 에이전틱 AI 확산으로 모델 연산 외 데이터 검색 성능의 중요성이 확대되고 있다고 밝혔다. 그러면서 VDPU의 역할은 벡터 검색 전담이며, CPU·GPU가 다른 연산에 집중할 수 있도록 VDPU를 설계했다고 설명했다.

양 최고기술책임자는 이번 행사에서 VDPU 서버 구성을 공개했으며, 향후 실제 고객 워크로드 기반으로 평가 확대와 적용 확대를 추진할 계획이라고 밝혔다. 이와 별도로 디노티시아의 AI 스토리지 시스템인 씨홀스 스토리지(Seahorse Storage)는 ML퍼프 스토리지 v3.0(MLPerf Storage v3.0) 벡터 데이터베이스(DB) 평가에서 처리량 기준 1위를 기록했다.

출처: 아이티데일리 (IT DAILY) · 권영석 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241713

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241713