디노티시아 ‘씨홀스 스토리지’, ML퍼프 벡터DB 성능 1위
아이티데일리 (IT DAILY) ·
✦ AI 요약
디노티시아는 자사 씨홀스 스토리지가 MLPerf Storage v3.0 벡터 DB 평가에서 처리량 1위를 기록했다고 3일 밝혔다.
이번 평가는 디노티시아와 한국정보통신기술협회(TTA)가 공동 수행했으며, 과학기술정보통신부·정보통신기획평가원(IITP) 지원 ‘HPC 이노베이션 허브’ 사업의 일환으로 이뤄졌다.
디노티시아는 제출기관 중 유일하게 단일 다중 노드 분산 스토리지 구성으로 전체 평가를 수행했고, 벡터 DB 처리 성능 부문에서 클라이언트 4노드 구성 5만7619 QPS를 기록했다.
디노티시아는 3일 자사 '씨홀스 스토리지(Seahorse Storage)'가 'MLPerf Storage v3.0' 벡터 DB 평가에서 처리량 1위를 기록했다고 발표했다. 'MLPerf Storage v3.0'은 'MLCommons'가 운영하는 AI 스토리지 성능 평가다.
이번 평가는 디노티시아와 한국정보통신기술협회(TTA)가 공동 수행했다. 공동 수행은 과학기술정보통신부·정보통신기획평가원(IITP) 지원 'HPC 이노베이션 허브' 사업의 일환으로 이뤄졌다.
v3.0에는 AI 학습용 모델 저장·복구, LLM 추론 성능 영향 요소 KV 캐시(Cashe), 검색증강생성용 벡터 DB 평가 항목이 추가됐다. 이번 평가에는 19개 기관이 참여해 99개 시스템 구성을 바탕으로 150건의 결과를 제출했다. △AI 학습 △모델 저장·복구 △KV 캐시 △벡터 DB 4개 항목 모두에 결과를 제출한 기관은 4곳뿐이었으며, 디노티시아도 여기에 포함됐다.
디노티시아는 제출기관 중 유일하게 단일 다중 노드 분산 스토리지 구성으로 전체 평가를 수행했다. 그 결과 씨홀스 스토리지는 벡터 DB 처리 성능 부문 1위를 기록했으며, 클라이언트 4노드 구성에서 5만7619 QPS를 기록했다. QPS는 시스템의 1초당 검색 요청 처리 수를 의미한다.
또한 '체크포인팅(Chackpointing)' 평가에서는 '라마3 70B' 모델 기준 초당 114.73 기비바이트 읽기 성능을 기록했다. 체크포인팅은 LLM 학습 상태의 주기적 저장·재호출을 평가하는 항목이며, 주어진 네트워크 성능으로 모델 데이터 읽기 성능을 측정하는 의미를 갖는다.
씨홀스 스토리지는 LLM 추론·벡터 검색용 데이터 처리를 통합 지원한다. 디노티시아는 오픈소스 분산 스토리지 '세프(Ceph)' 기반을 적용해 서버 간 대용량 데이터 고속 전송 네트워크 환경 대응력을 강화했다. 씨홀스 스토리지는 올해 하반기 출시 예정이다.
한주연 TTA AI인프라검증팀장은 ML퍼프 스토리지 v3.0이 기존 AI 학습 중심 평가에서 처음으로 추론·검색까지 평가 범위를 확대한 사례라고 짚으며, 이를 국내 스토리지 기술의 국제 벤치마크 검증의 의미 있는 사례로 연결했다.
정무경 디노티시아 대표는 출시 예정인 씨홀스 스토리지가 ML퍼프 스토리지에서 최고 수준의 추론·검색 성능·범용성을 입증한 점을 근거로 제시했다. 이어 씨홀스 스토리지로 AI 워크로드를 하나의 데이터 인프라에서 지원할 계획이며, 이를 통해 기업의 AI 구축·운영 효율화를 목표로 한다고 밝혔다.
출처: 아이티데일리 (IT DAILY) · 김호준 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241380
참고자료
이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.
출처 아이티데일리 (IT DAILY)
원문 확인이 기사는 아이티데일리 (IT DAILY) 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.