2月4日消息，DeepSeek V3、R1系列開源AI大模型在多語言理解、復雜推理任務中展現(xiàn)了卓越性能，不僅推動了AI技術的普及與發(fā)展，更是對開源社區(qū)的極大貢獻。

目前，各家科技巨頭都已紛紛開始支持、部署DeepSeek，國產(chǎn)硬件也在加速支持。

作為國產(chǎn)全功能GPU創(chuàng)新企業(yè)，摩爾線程快速實現(xiàn)了對DeepSeek蒸餾模型推理服務的高效部署，可讓更多開發(fā)者基于摩爾線程全功能GPU，進行AI應用創(chuàng)新。

此外，用戶也可以基于摩爾線程MTT S80、MTT S4000顯卡，進行DeepSeek-R1蒸餾模型的推理部署。

通過DeepSeek提供的蒸餾模型，能夠?qū)⒋笠?guī)模模型的能力遷移至更小、更高效的版本，在國產(chǎn)GPU上實現(xiàn)高性能推理。

摩爾線程基于自研全功能GPU，通過開源與自研雙引擎方案，快速實現(xiàn)了對DeepSeek蒸餾模型的推理服務部署。

開源框架適配：

基于Ollama開源框架，摩爾線程完成DeepSeek-R1-Distill-Qwen-7B蒸餾模型的部署，并在多種中文任務中展現(xiàn)了優(yōu)異的性能，驗證摩爾線程自研全功能GPU的通用性與CUDA兼容性。

自研引擎加速：

通過摩爾線程自主研發(fā)的高性能推理引擎，結(jié)合軟硬件協(xié)同優(yōu)化技術，通過定制化的算子加速和內(nèi)存管理，顯著提升了模型的計算效率和資源利用率。

這一引擎不僅支持DeepSeek蒸餾模型的高效運行，還為未來更多大規(guī)模模型的部署提供了技術保障。

最后，摩爾線程即將開放自主設計的夸娥(KUAE)GPU智算集群，全面支持DeepSeek V3、R1模型，以及新一代蒸餾模型的分布式部署。

夸娥集群集成先進推理技術與分布式計算框架，將確保大規(guī)模模型的高效穩(wěn)定運行，助力開發(fā)者快速實現(xiàn)業(yè)務落地。