디노티시아, AI 인프라 패러다임 전환…“생성은 GPU, 검색은 VDPU”

디노티시아는 18일 'AI Infra Summit 2026' 참가 소식을 전하며 벡터 검색 전용 프로세서 VDPU(Vector Data Processing Unit) 기반 아키텍처를 공개했다고 밝혔다. 이번 공개 내용은 실제 서버 환경으로 확장된 구조다.

디노티시아는 앞서 지난 FMS(Future of Memory and Storage) 2026에서 VDPU 칩과 가속기 카드를 공개했으며, 이번 행사에서 적용 범위를 실제 서버 환경으로 확대했다. 'AI Infra Summit 2026'은 지난 15일부터 17일까지 미국 캘리포니아 산타클라라 컨벤션센터에서 열렸다.

행사 현장에서 디노티시아는 VDPU 카드 4장 탑재 서버로 전시를 구성했다. 이를 통해 벡터 검색 전용 프로세서 VDPU(Vector Data Processing Unit) 기반 아키텍처를 실제 서버 환경으로 확장한 구조를 제시했다.

양세현 디노티시아 최고기술책임자(CTO)는 'Rethinking AI Infrastructure with Dedicated Vector Silicon'을 주제로 발표를 진행했다. 양세현은 발표에서 VDPU 아키텍처와 성능 평가 결과를 소개했다.

평가에서는 FPGA 기반 평가를 수행했으며, VDPU 카드 4장 탑재 서버를 비교 대상으로 설정했다. 비교 대상은 동일한 소프트웨어 스택 구동 듀얼소켓 CPU 전용 서버였다. 4096차원 멀티모달 워크로드 기준으로 벡터 검색 처리량은 최대 5.77배 향상됐고, 인덱스 구축용 호스트 CPU 사용량은 92% 감소했으며, 메모리 사용량은 73% 감소했다. 검색 재현율은 CPU 전용 환경과 동등 또는 더 높았다.

이 같은 결과에 대해 처리량 향상과 검색 품질 동시 확보가 이뤄졌다는 설명이 제시됐다. 즉 검색 성능과 자원 효율이 개선되면서도 검색 품질은 유지되거나 높아졌다는 점이 함께 확인됐다.

디노티시아는 이를 바탕으로 1세대 VDPU ASIC 기반 특성화 작업을 진행 중이며, 올해 4분기부터 본격 평가를 시작할 계획이다. ASIC 기반 VDPU 목표는 CPU 서버 대비 벡터 검색 성능 최대 10배다. 디노티시아는 VDPU의 역할을 생성은 GPU, 검색은 VDPU로 정의했다. GPU는 대규모 언어모델 실행·답변 생성에 집중하고, VDPU는 외부 정보 검색을 맡는다. VDPU 적용 영역으로는 검색 증강 생성(RAG)의 AI 답변 활용 검색과 AI 에이전트의 벡터 검색 전담이 제시됐다.

에이전틱 AI 확산으로 단일 작업 과정 내 데이터 검색·검증 반복이 이어지면서, 모델 연산 성능 외 데이터 검색 성능이 AI 인프라 핵심 요소로 부상하고 있다. 이에 따라 AI 인프라에서는 연산 능력과 함께 데이터 검색 능력의 비중이 커지고 있다.

디노티시아는 FPGA 환경에서 씨홀스(Seahorse)·FAISS·Milvus·hnswlib와 VDPU 연동을 검증했다. 이는 에이전틱 AI 확산에 대응해 주요 벡터 검색 소프트웨어와 VDPU의 연동을 확인한 것이다.

디노티시아는 국내 시장 전략으로 씨홀스와 VDPU 결합을 추진하고 있다. 국내 시장 목표는 기업 보유 데이터의 AI 저장·검색·활용용 AI 데이터 인프라 제품화다.

글로벌 시장 대상은 서버·스토리지·메모리·반도체 기업이며, 글로벌 시장 전략은 VDPU 평가·개념검증(PoC) 확대다. 양세현 CTO는 에이전틱 AI 확산으로 모델 연산과 함께 데이터 검색 성능 중요성이 확대되고 있다고 밝혔고, VDPU가 벡터 검색 전담 설계를 바탕으로 CPU·GPU의 각자 역할 집중을 지원한다고 설명했다.

발언자는 이번 행사에서 VDPU 서버 구성을 공개한 데 이어, 향후에는 이를 바탕으로 실제 고객 워크로드 기반 평가와 적용을 확대해나갈 방침이라고 추가로 언급했다.

출처: 테크월드뉴스 · 박규찬 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=407117

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=407117