디노티시아 ‘씨홀스 스토리지’, MLPerf Storage 벡터DB 성능 1위

디노티시아는 글로벌 AI 스토리지 벤치마크에서 벡터DB 처리 성능 1위를 기록하며 AI 인프라 시장 공략을 가속한다고 밝혔다. 디노티시아는 3일 자사 AI 스토리지 시스템 '씨홀스 스토리지(Seahorse Storage)'가 'MLPerf Storage v3.0' 벡터DB 평가에 참여했다고 발표했다. 이 평가에서 '씨홀스 스토리지(Seahorse Storage)'는 5만 7619.8 QPS를 기록해 처리량 기준 1위에 올랐다.

이번 평가는 과학기술정보통신부·정보통신기획평가원(IITP) 지원 'HPC 이노베이션 허브' 사업의 일환으로 진행됐다. 평가는 한국정보통신기술협회(TTA)와 공동 수행됐으며, TTA는 제출기관으로 참여했다.

MLPerf 공식 결과에는 시스템명이 'seahorse-storage'로 등재됐다. 디노티시아는 이번 성과를 통해 자사 AI 스토리지 시스템의 벡터DB 성능을 글로벌 평가로 입증했다고 밝혔다.

MLCommons가 주관하는 글로벌 AI 스토리지 성능 평가인 MLPerf Storage는 v3.0에서 기존 AI 학습 중심의 모델 저장·복구 평가에 KV Cache와 벡터DB 평가를 추가했다. KV Cache는 LLM 추론에 활용되고, 벡터DB는 RAG·AI 검색의 핵심 인프라로 쓰인다. 이에 따라 평가 범위는 AI 학습에서 모델 추론·검색을 포함하는 방향으로 확대됐다.

이번 평가에는 19개 기관이 참가해 99개 시스템 구성으로 150건의 결과를 제출했다. 워크로드는 AI 학습(Training)·모델 저장·복구(Checkpointing)·KV Cache·벡터DB의 4종으로 구성됐으며, 이 가운데 4개 워크로드 모두에 결과를 제출한 기관은 4곳뿐이었다.

디노티시아는 4개 워크로드 전체를 수행한 기관으로, 하나의 다중 노드 분산 스토리지 구성을 사용했다. 특히 하나의 다중 노드 분산 스토리지 구성으로 4개 워크로드 전체를 수행한 유일 사례였다. 이를 통해 하나의 스토리지 시스템으로 AI 학습·모델 저장·복구·LLM 추론·벡터 검색을 지원하는 범용성이 입증됐다.

디노티시아는 벡터DB 평가에서 클라이언트 4노드 구성으로 5만7619.8 QPS를 기록하며 처리량 기준 1위를 차지했다. QPS는 스토리지 시스템의 1초당 검색 요청 처리 건수 지표다.

QPS 수치 상승은 동일 시간 내 검색 요청 처리량 확대를 의미한다. QPS는 대규모 RAG·AI 검색 서비스의 핵심 성능 지표로 활용된다.

디노티시아는 벡터DB 외 체크포인팅 평가에서도 성능을 입증했다. 체크포인팅은 대규모 AI 모델의 학습 상태 저장·필요 시 복구 용도다. Llama3 70B 모델 기준 체크포인팅 읽기 평가에서는 114.73 GiB/s를 기록했다. 이는 테스트 환경 스토리지 측 네트워크 이론적 대역폭 139.7 GiB/s의 82.1%에 해당한다.

디노티시아는 네트워크 성능 활용 기반으로 대규모 모델 데이터의 고속 읽기 성능을 확보했고, 이를 통해 장애 이후 학습 복구와 중단된 학습 재개가 가능한 성능을 확보했다고 설명했다.

이 기술은 오픈소스 분산 스토리지 Ceph를 기반으로 하며, 400G InfiniBand 네트워크 환경에 대응했다. 또한 서버-클라이언트 간 Native RDMA 지원 Ceph 풀스택을 직접 구현했다.

RDMA는 네트워크를 통해 다른 서버 메모리로 직접 데이터를 전송하는 기술이다. 이 기술은 데이터 이동 시 CPU 개입을 줄이고 불필요한 데이터 복사를 축소하는 효과가 있어 고성능 AI 인프라 구축의 중요 기술로 꼽힌다.

디노티시아는 Native RDMA 기반 Ceph 풀스택을 통해 범용 서버 기반 분산 스토리지에서도 대규모 AI 데이터를 고속 처리할 수 있다고 설명했다.

씨홀스 스토리지는 AI 학습과 모델 저장·복구, LLM 추론, 벡터 검색용 데이터 처리를 지원하며, 이를 하나의 분산 스토리지에서 통합 지원한다.

AI 인프라 확장의 범위가 대규모 GPU·가속기 중심에서 데이터 이동·저장 시스템 포함으로 넓어지면서 스토리지 역할도 확대되고 있다. 특히 LLM 추론·RAG 서비스 확산에 따라 AI 서비스 처리 효율을 좌우하는 요소로 모델 자체 외 KV Cache·벡터 데이터의 고속 접근 성능이 주목받고 있다.

이런 흐름에서 디노티시아는 씨홀스 스토리지 기반으로 워크로드별 별도 스토리지 구축 없이 하나의 데이터 인프라에서 다양한 AI 서비스 운영이 가능하다고 강조했다. 이를 통해 기업 AI 인프라 구축·운영 단순화와 비용 효율성 제고 효과를 기대할 수 있다고 설명했다.

한주연 TTA AI인프라검증팀장은 MLPerf Storage v3.0이 평가 범위를 AI 학습에서 추론·검색까지 확대한 첫 라운드라는 점에서 의미가 있다고 밝혔다. 또한 이를 국내 스토리지 기술의 국제 벤치마크 검증 사례로 평가했으며, 국내 기업의 표준화 환경 내 기술력 객관적 입증 지원을 지속할 계획이라고 밝혔다.

정무경 디노티시아 대표는 씨홀스 스토리지 출시를 앞두고 MLPerf Storage 결과를 근거로 성능과 범용성이 확인됐다고 밝혔다. MLPerf Storage는 글로벌 AI 스토리지 공식 벤치마크로, 씨홀스 스토리지는 MLPerf Storage에서 최고 수준 추론·검색 성능을 입증했으며, MLPerf Storage에서 범용성도 입증했다.

정무경 대표는 AI 인프라 병목이 메모리 시스템·데이터 처리 영역으로 이동하면서 AI 스토리지가 핵심 인프라로 부상하고 있다고 설명했다. 이어 씨홀스 스토리지로 다양한 AI 워크로드를 하나의 데이터 인프라에서 지원할 계획이며, 이를 통해 기업의 AI 구축·운영 효율 제고를 목표로 한다고 밝혔다.

출처: 테크월드뉴스 · 박규찬 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=406467

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=406467