免费高清视频日本一区二区三区|国产精品第一偷怕自怕1区|色综合久久久久久久久久|亚洲最大的是福利网站

地方頻道:
您的當前位置:首頁>社會
中科馭數(shù)DPU賦能國產AI算力 成功部署DeepSeek大模型
2025-03-04 15:28:51   來源:今日湖北

近日,中科馭數(shù)(北京)科技有限公司(以下簡稱“中科馭數(shù)”)基于全國產化CPU、GPU、DPU三U一體設備本地化部署了DeepSeek模型。

微信圖片_20231026145543.jpg

中科馭數(shù)通過國產CPU系統(tǒng)實現(xiàn)整體業(yè)務調度與主要服務進程運行,采用國產GPU完成模型推理運算,由中科馭數(shù)DPU進行設備裸金屬業(yè)務管理以及云化網(wǎng)絡/存儲能力卸載提速。該系統(tǒng)底層采用全國產化的3U一體服務器搭建,在兼顧安全性與低成本的同時,可以高效運行DeepSeek-V3與DeepSeek-R1等多個AI推理模型系統(tǒng)。

隨著深度學習技術的快速發(fā)展,大模型(如DeepSeek、GPT等)在自然語言處理、計算機視覺等領域取得了顯著成果,計算需求越來越大。

目前,中科馭數(shù)通過這一創(chuàng)新方案,完成多個AI模型適配,打通全國產化三U一體算力底層支撐,幫助AI應用在落地過程中實現(xiàn)更好的數(shù)據(jù)隱私性保護與抵御外部風險的能力,同時也積極推動產業(yè)鏈協(xié)同與資源優(yōu)化整合。

中科馭數(shù)作為DPU芯片和產品供應商,憑借自主研發(fā)的K2-Pro芯片,在公司自建的全國產化推理集群中,承擔了高通量網(wǎng)絡傳輸、云化流表卸載與分布式資源快速加載的任務。

同時,在AI模型訓練方向,中科馭數(shù)自主研發(fā)的RDMA網(wǎng)卡助力數(shù)據(jù)中心實現(xiàn)高速網(wǎng)絡連接,能夠確保大規(guī)模模型的數(shù)據(jù)傳輸效率,減少通信延遲,提升整體計算性能。

作為一家專注于專用處理器研發(fā)的國家專精特新“小巨人”企業(yè),中科馭數(shù)始終致力于推動技術創(chuàng)新與產業(yè)鏈協(xié)同發(fā)展。自主研發(fā)的DPU芯片及相關系列產品已廣泛應用于超低時延網(wǎng)絡、云和數(shù)據(jù)中心、金融計算、大數(shù)據(jù)處理、5G邊緣計算、高性能計算等多個領域,為各行各業(yè)的數(shù)字化轉型提供了堅實的技術保障。(來源:湖報資本 通訊員黃亞瓊)

技術支持:湖北報網(wǎng)新聞傳媒有限公司

今日湖北網(wǎng)版權所有 鄂ICP備2020021375號-2 網(wǎng)絡傳播視聽節(jié)目許可證(0107190) 備案號:42010602003527 違法和不良信息舉報中心