云創(chuàng)大數(shù)據(jù)cVector向量計算一體機自推出以來，收獲行業(yè)好評不斷，多家企事業(yè)單位向云創(chuàng)大數(shù)據(jù)表達(dá)了合作意向。為了讓更多單位體驗并感受cVector向量計算一體機的不俗實力和創(chuàng)新特性，現(xiàn)正式將cVector向量計算一體機進(jìn)行開放。
在開放測試中，用戶可選擇“隨機生成”和“隨機選取”兩種方式，基于5億、1億、5千萬、1千萬數(shù)據(jù)量，即可體驗在極短的時間內(nèi)，cVector向量計算一體機如何高效、快速完成比對。歡迎用電腦訪問http://xl.cstor.cn體驗！
cVector向量計算一體機是一種面向億級以上向量計算場景的高性能向量存儲、計算一體化平臺，采用并行計算架構(gòu)，融合高密度混合服務(wù)硬件，實現(xiàn)對大規(guī)模向量數(shù)據(jù)的計算和比對，相較于通過GPU、向量數(shù)據(jù)庫進(jìn)行向量計算，cVector向量計算一體機在入庫效率、計算性能方面優(yōu)勢突出，可廣泛應(yīng)用于人工智能大模型、機器學(xué)習(xí)、計算機視覺、自然語言處理等領(lǐng)域。
cVector向量計算一體機通過發(fā)揮高性能硬件、向量加速算法和并行計算算法的合力，致力于滿足億級乃至百億千億向量規(guī)模的大模型推理應(yīng)用向量計算需求。
cVector向量計算一體機
cVector向量計算一體機的使用方式與向量數(shù)據(jù)庫基本一致，支持批量、追加入庫，支持向量間歐式距離、余弦距離等向量計算，支持網(wǎng)頁、命令調(diào)用、Python庫等方法，但在向量的入庫和比對計算上具有驚人的性能。
cVector向量計算一體機架構(gòu)圖
近期， cVector向量計算一體機接受了工信部直屬的國家一級科研事業(yè)單位中國軟件評測中心的鑒定測試。中國軟件評測中心對比測試了cVector向量計算一體機與3款主流向量數(shù)據(jù)庫在入庫速度、查詢速度、準(zhǔn)確性等維度的性能對比。
在入庫性能方面，同樣入庫3000萬條256 維向量數(shù)據(jù)，在向量數(shù)據(jù)庫中最快的是A，入庫速度是4851.97s，cVector向量計算一體機是1202.91s，入庫速度約是向量數(shù)據(jù)庫A的4倍，向量數(shù)據(jù)庫C的50倍，向量數(shù)據(jù)庫B的113倍；當(dāng)入庫數(shù)據(jù)達(dá)到1億條時，向量數(shù)據(jù)庫A的入庫速度是17295.49s，cVector向量計算一體機是4484.55s，入庫速度約是前者的3.9倍。
入庫性能比對
在查詢性能方面，同樣查詢1億條256 維向量數(shù)據(jù)，向量數(shù)據(jù)庫A的查詢速度是512.8s，cVector向量計算一體機是0.27s，查詢速度是前者的1899倍，而其他兩家測試向量數(shù)據(jù)庫由于數(shù)據(jù)量太大無法入庫比較。
查詢性能對比
在準(zhǔn)確性方面，cVector 向量計算一體機、向量數(shù)據(jù)庫A、向量數(shù)據(jù)庫B和向量數(shù)據(jù)庫C的數(shù)據(jù)準(zhǔn)確度一致，通過了中國軟件評測中心（工業(yè)和信息化部軟件與集成電路促進(jìn)中心）單項性能測試。
cVector向量計算一體機在億級乃至百億千億向量規(guī)模的的入庫和查詢等方面具有顯著的性能優(yōu)勢，可幫助提高大模型推理的服務(wù)性能和服務(wù)質(zhì)量，并能明顯降低其基礎(chǔ)設(shè)施建設(shè)成本，助力類ChatGPT等人工智能企業(yè)以更優(yōu)的性價比解決算力不足的問題。
在具體應(yīng)用方面，對于生成式AI相關(guān)企業(yè)，cVector向量計算一體機主要面向大模型推理應(yīng)用，能夠在下述大模型推理環(huán)節(jié)發(fā)揮顯著作用：
①提高生成式AI的輸出準(zhǔn)確性。由于大模型的輸出結(jié)果是根據(jù)概率推理而成，所以會出現(xiàn)“一本正經(jīng)說胡話”的情形。可以將可信來源的數(shù)據(jù)轉(zhuǎn)化成向量數(shù)據(jù)存儲在向量計算一體機中，校準(zhǔn)大模型推理輸出的結(jié)果，從而使大模型輸出的結(jié)果更加準(zhǔn)確。
②提升大模型理解互聯(lián)網(wǎng)實時數(shù)據(jù)的能力。大模型基于歷史數(shù)據(jù)訓(xùn)練而成，所以“只知道過去，不知道現(xiàn)在”。如果使用向量計算一體機存儲海量實時數(shù)據(jù)所轉(zhuǎn)化成的向量數(shù)據(jù)，可以幫助大模型理解掌握實時情況。
③提升大模型對用戶的服務(wù)質(zhì)量。向量計算一體機可以允許用戶上傳更多的數(shù)據(jù)，讓大模型掌握用戶個性化的背景資料，更好地學(xué)習(xí)理解用戶請求，更好地結(jié)合用戶的實際情況回答問題。
④減輕大模型的訪問壓力。用戶所提的大部分問題都是相似的常見問題，向量計算一體機可以緩存大量熱點問題，不需要經(jīng)過大模型推理即可返回結(jié)果，從而大幅減少算力成本。
⑤幫助生成式AI過濾敏感內(nèi)容。怎么防止生成式AI說錯話一直是一個挑戰(zhàn)性問題，而向量計算一體機可以存放敏感內(nèi)容所對應(yīng)的向量數(shù)據(jù)，在用戶提出請求時加以判斷，盡可能防止AI對敏感問題做出不恰當(dāng)?shù)幕貞?yīng)。
cVector向量計算一體機能夠廣泛應(yīng)用于人工智能領(lǐng)域中生成式AI的推理應(yīng)用場景，為各類生成式AI企業(yè)提供高性價比的產(chǎn)品和解決方案，大幅增加大模型平臺的競爭力，歡迎各大企事業(yè)單位試用。
聯(lián)系方式：
單先生 13770311887（微信同號）
