Hardware

Denotitia於SC26展示基於ASIC的VDPU即時運作

IT DAILY ·

Denotitia於SC26展示基於ASIC的VDPU即時運作
SC26 迪諾提西亞攤位現場。[圖片:迪諾提西亞]

✦ AI 摘要

Denotitia在美國芝加哥SC26上,宣布首次公開AI資料搜尋半導體「VDPU(Vector Data Processing Unit)」的ASIC基礎即時運作。

現場示範以實際搭載ASIC的VDPU卡進行,並即時搜尋與比對260萬餘個影片畫面的向量資料。

公司方面說明,導入VDPU後可由其負責搜尋運算,不僅提升搜尋效能,主機CPU使用量也可減少90%以上。

BizCrushWant to follow Korean talks and live streams in real time?Try CapCrush on the web

Denotitia於19日在美國芝加哥舉行的「Supercomputing 2026(SC26)」上,宣布首次公開其AI資料搜尋半導體「VDPU(Vector Data Processing Unit)」的ASIC基礎即時運作。

Denotitia先前已於9月在「AI Infra Summit 2026(AI Infra Summit 2026)」上,展示運用FPGA的VDPU搜尋效能。

此次活動公開的是搭載實際ASIC的VDPU卡。現場示範是以回應使用者自然語言查詢的方式進行。

示範中即時搜尋並比對260萬餘個影片畫面的向量資料,從而導出語意相關性高的資訊。照片為SC26 Denotitia攤位現場。

公司方面說明,若導入VDPU,搜尋運算將由VDPU而非CPU負責,在相同搜尋工作基準下,較僅由CPU執行時可提升搜尋效能,且主機CPU使用量也可減少90%以上。透過將搜尋運算卸載至VDPU,可釋出的CPU資源可用於AI代理執行與其他服務處理。

AI代理會反覆查詢執行工作所需的資料與過往使用紀錄,而這類反覆查詢會使用語意搜尋(以意義為基礎的搜尋)。語意搜尋不僅是單純比對關鍵字,而是搜尋符合問題脈絡與意圖的資訊。

實現這類語意搜尋的核心技術是向量搜尋。向量搜尋是先將文件、圖片等的語意特徵量化,再進行比對;當代理的工作與資料規模擴大時,搜尋與比對運算量也會急遽增加。因此,專門負責這些運算的專用硬體需求也日益增加。

Denotitia正在進行以VDPU為核心的伺服器架構最佳化。目標配置為1台裝有多張VDPU卡的伺服器,性能目標是較現有2插槽CPU伺服器約提升10倍的搜尋效能。為此,該公司採用工作負載分工策略,由CPU負責服務執行、GPU負責AI模型運算、VDPU負責向量搜尋,推動提升整體系統的運算資源效率。

Denotitia在同步推進硬體與軟體結合開發的同時,也正在開發自有向量DB「Seahorse」。此外,該公司也同步開發AI代理軟體,並將實際搜尋工作負載需求反映到VDPU設計中。

Denotitia以此為基礎,正將核心事業擴大為用於企業資料儲存、搜尋及AI模型供應的「AI storage」。此外,也正針對外部伺服器與儲存系統進行VDPU搭載技術驗證。

Denotitia代表鄭武慶表示,這次示範驗證了首款VDPU ASIC的搜尋效能與實際運作。他並指出,公司正持續與全球伺服器及儲存公司進行PoC,並計畫透過PoC驗證效能與穩定性。

SC26是分享HPC、網路與儲存最新技術及研究成果的國際活動。Denotitia自當地時間17日至19日在芝加哥McCormick Place展館設置攤位並介紹技術。

來源: IT DAILY · Kwon Young-seok 原文: https://www.itdaily.kr/news/articleView.html?idxno=243065

參考資料

本文由 BizCrush 在自動生成演算法的協助下撰寫。


本文由 BizCrush 根據 IT DAILY 原文摘要整理。準確引文與細節請參閱原文。

Keep reading

BizCrush
BizCrush showing live captions over an online meeting

BizCrush app

Live captions and summaries for meetings and calls

BizCrush Inc. · 執行長 Taemin Kwak

總部 100 Middlefield Rd, Menlo Park, CA 94025, USA

韓國辦公室 韓國首爾特別市江南區永東大路 602 號 6 樓 602 室內 Z112

客服 help@bizcrush.ai · 合作洽詢 business@bizcrush.ai

AI 聲明

部分功能使用生成式 AI。

這些功能在使用前皆會另行告知,並標示 AI 生成的結果。AI 產出內容僅供參考——做出重要決定前,請務必確認原始出處並諮詢專業人士。