2025年2月4日,DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro正式上線昇騰社區(qū),神州鯤泰推理服務(wù)器A924搭載昇騰硬件,可全面支持DeepSeek系列模型的快速部署,可為用戶帶來(lái)更快、更高效、更便捷的AI開(kāi)發(fā)和應(yīng)用體驗(yàn)。

同日,神州鯤泰KunTai M300-P01開(kāi)發(fā)者套件也成功實(shí)現(xiàn)了與DeepSeek-R1-Distill-Qwen模型的推理適配優(yōu)化,性能表現(xiàn)優(yōu)異。相較于DeepSeek-V3多機(jī)多卡部署,專注于多模態(tài)推理等高精度場(chǎng)景的特點(diǎn),這套“輕量化”組合形成場(chǎng)景互補(bǔ),帶來(lái)了低成本、靈活、快捷、穩(wěn)定的AI推理體驗(yàn),可廣泛適用于車路協(xié)同、安防巡檢、智能制造、智慧交通等多樣化場(chǎng)景。

六大優(yōu)勢(shì),構(gòu)筑 AI 應(yīng)用新基石:

1、低成本:KunTai M300-P01 開(kāi)發(fā)者套件落地成本低,能耗低,維護(hù)簡(jiǎn)單,無(wú)需配備復(fù)雜的冷卻系統(tǒng)和高能耗的服務(wù)器機(jī)房,降低了硬件成本。同時(shí),減少對(duì)云端計(jì)算資源的依賴,長(zhǎng)期運(yùn)營(yíng)費(fèi)用得以節(jié)省,有效降低了云端成本。

2、低延遲:數(shù)據(jù)在本地即可完成處理,無(wú)需上傳至云端或遠(yuǎn)程服務(wù)器,顯著降低延遲,實(shí)現(xiàn)實(shí)時(shí)響應(yīng),特別適用于工業(yè)控制、自動(dòng)駕駛這類對(duì)響應(yīng)速度要求極高的場(chǎng)景。

3、數(shù)據(jù)隱私與安全:敏感數(shù)據(jù)本地存儲(chǔ),避免傳輸至外部服務(wù)器,減少了數(shù)據(jù)泄露風(fēng)險(xiǎn),嚴(yán)格滿足如 GDPR 等對(duì)數(shù)據(jù)本地化存儲(chǔ)和處理的法規(guī)要求。

4、帶寬優(yōu)化:只需上傳處理結(jié)果或關(guān)鍵信息,極大減少了數(shù)據(jù)傳輸量,降低對(duì)網(wǎng)絡(luò)帶寬的需求,即便在網(wǎng)絡(luò)不穩(wěn)定或帶寬有限的場(chǎng)景中也能穩(wěn)定運(yùn)行。

5、靈活部署與拓展:套件體積小巧,可輕松集成到各類設(shè)備中,是邊緣計(jì)算場(chǎng)景的理想選擇。并且支持多節(jié)點(diǎn)部署,適用于大規(guī)模分布式場(chǎng)景。

6、離線能力:不依賴網(wǎng)絡(luò),在網(wǎng)絡(luò)中斷或不可用時(shí)仍能正常運(yùn)行,具備本地自治能力,在偏遠(yuǎn)地區(qū)或網(wǎng)絡(luò)覆蓋差的場(chǎng)景中優(yōu)勢(shì)盡顯。

神州鯤泰 KunTai M300-P01 開(kāi)發(fā)者套件+DeepSeek-R1-Distill-Qwen模型的 “輕量化” 組合將為更多行業(yè)和場(chǎng)景輸送高效、便捷、安全的AI推理解決方案,推動(dòng)人工智能技術(shù)深度融入千行百業(yè),創(chuàng)造更大的價(jià)值。隨著技術(shù)的持續(xù)創(chuàng)新與突破,將在更廣闊的領(lǐng)域發(fā)揮關(guān)鍵作用,進(jìn)一步拓展人工智能的應(yīng)用邊界。

免責(zé)聲明：市場(chǎng)有風(fēng)險(xiǎn)，選擇需謹(jǐn)慎！此文僅供參考，不作買賣依據(jù)。

標(biāo)簽：