cGPT大模型訓(xùn)練推理一體機(jī)內(nèi)置最高8塊通用型GPU計(jì)算卡，顯存最高可達(dá)640GB，單卡FP32精度算力可達(dá)37TFLOPS，F(xiàn)P16/BF16精度算力為147TFLOPS，INT8精度算力為295TOPS，支持INT32與INT16計(jì)算、支持多精度數(shù)據(jù)類(lèi)型標(biāo)準(zhǔn)/混合訓(xùn)練。

cGPT大模型訓(xùn)練推理一體機(jī)除支持主流NVIDIA計(jì)算卡以外，根據(jù)用戶(hù)生產(chǎn)環(huán)境需要，還可支持全國(guó)產(chǎn)化方案，采用國(guó)產(chǎn)服務(wù)器準(zhǔn)系統(tǒng)、CPU、GPU與操作系統(tǒng)，適用于有特殊安全需求的客戶(hù)。主流大模型相關(guān)配套框架均作適配，移植便捷，用戶(hù)訓(xùn)練無(wú)需進(jìn)行大量修改。

cGPT大模型訓(xùn)練推理一體機(jī)可支持?jǐn)?shù)據(jù)私有化，服務(wù)本地化部署，無(wú)需連接公共互聯(lián)網(wǎng)即可提供服務(wù)，杜絕用戶(hù)數(shù)據(jù)泄漏風(fēng)險(xiǎn)。通過(guò)本地文件服務(wù)器對(duì)本地模型進(jìn)行管理和版本控制，實(shí)現(xiàn)模型部署本地化。通過(guò)本地大數(shù)據(jù)平臺(tái)對(duì)用戶(hù)業(yè)務(wù)數(shù)據(jù)進(jìn)行采集、處理、分析、構(gòu)建，實(shí)現(xiàn)用戶(hù)業(yè)務(wù)數(shù)據(jù)私有化。利用全面的訪問(wèn)控制系統(tǒng)，對(duì)需要進(jìn)行外網(wǎng)訪問(wèn)的數(shù)據(jù)信息進(jìn)行脫敏過(guò)濾，在確保用戶(hù)數(shù)據(jù)安全性的前提下，保障本地服務(wù)功能的完整性。

cGPT大模型訓(xùn)練推理一體機(jī)構(gòu)建了一站式部署、定制擴(kuò)展方案，使得用戶(hù)無(wú)需掌握專(zhuān)業(yè)的人工智能知識(shí)，即可輕松擁有大模型提供的各種能力。通過(guò)一套完整的、用戶(hù)友好的可視化平臺(tái)，可簡(jiǎn)單實(shí)現(xiàn)大模型的訓(xùn)練、部署和服務(wù)提供；提供豐富的場(chǎng)景功能，用戶(hù)可根據(jù)專(zhuān)業(yè)需求，利用提示模板技術(shù)實(shí)現(xiàn)專(zhuān)業(yè)定制的大模型應(yīng)用，例如智能專(zhuān)業(yè)寫(xiě)作、智能行業(yè)查詢(xún)等。