cVector向量計算一體機是一種麵向億級以上向量計算場景的高性能向量存儲、計算一體化平台,采用並行計算架構,融合高密度混合服務硬件,實現對大規模向量數據的計算和比對,相較於通過GPU、向量數據庫進行向量計算,cVector向量計算一體機在入庫效率、計算性能方麵優勢突出,可廣泛應用於人工智能大模型、機器學習、計算機視覺、自然語言處理等領域。
cVector向量計算一體機是一種麵向億級以上向量計算場景的高性能向量存儲、計算一體化平台,采用並行計算架構,融合高密度混合服務硬件,實現對大規模向量數據的計算和比對,相較於通過GPU、向量數據庫進行向量計算,cVector向量計算一體機在入庫效率、計算性能方麵優勢突出,可廣泛應用於人工智能大模型、機器學習、計算機視覺、自然語言處理等領域。
cVector向量計算一體機基於大數據分布式實時計算框架,結合定製化高密度計算硬件,實現大規模AI任務的分發與計算結果匯聚,保證計算任務執行的高效和穩定。其采用全量計算的方式,基於特征向量計算算法以及分布式集群處理資源調度技術,實現了海量特征庫條件下1:N對比任務的高效分解與並行處理,可將單個任務響應效率提升到0.1秒級。對於通過向量數據庫軟件需要幾千個時鍾周期的向量計算,該一體機隻需很少的時鍾周期即可完成。
在“cVector 向量計算一體機 V1.0”、向量數據庫A、向量數據庫B和向量數據庫C中存儲相同的 1000 萬條的 256 維向量數據,分別查詢與目標向量的歐氏距離最短的 10 條向量,對比結果顯示各自返回的 10 條向量與目標向量的距離值均相同。
“向量計算數據庫驗證平台 V1.0”性能效率符合《向量計算數據庫驗證平台測試需求V1.0》的相關要求,在現場測試過程中,係統運行穩定,通過了中國軟件評測中心(工業和信息化部軟件與集成電路促進中心)的單項性能測試。”
根據測試報告結果,cVector向量計算一體機在千萬級特別是億級以上規模的入庫和查詢等方麵具有顯著的性能優勢,可幫助提高大模型推理的服務性能和服務質量,並能明顯降低其基礎設施建設成本,幫助類ChatGPT等人工智能企業以更優的性價比解決算力不足的問題。