寒武纪已适配 DeepSeek-V3.2-Exp,同步开源推理引擎 vLLM-MLU
- 分类:行业动态
- 作者:
- 来源:
- 发布时间:2025-09-30 09:31:53
- 访问量:327
【概要描述】【导语】9月30日,DeepSeek发布实验性版本DeepSeek-V3.2-Exp模型,寒武纪迅速宣布完成适配并开源相关引擎代码,凭借生态积累与技术优势实现新模型架构的快速适配与极致性能优化,携手为客户打造高竞争力软硬件方案。 9 月 30 日消息,DeepSeek 正式发布了 DeepSeek-V3.2-Exp 模型,这是一个实验性(Experimental)的版本。寒武纪也
寒武纪已适配 DeepSeek-V3.2-Exp,同步开源推理引擎 vLLM-MLU
【概要描述】【导语】9月30日,DeepSeek发布实验性版本DeepSeek-V3.2-Exp模型,寒武纪迅速宣布完成适配并开源相关引擎代码,凭借生态积累与技术优势实现新模型架构的快速适配与极致性能优化,携手为客户打造高竞争力软硬件方案。 9 月 30 日消息,DeepSeek 正式发布了 DeepSeek-V3.2-Exp 模型,这是一个实验性(Experimental)的版本。寒武纪也
- 分类:行业动态
- 作者:
- 来源:
- 发布时间:2025-09-30 09:31:53
- 访问量:327
【导语】9月30日,DeepSeek发布实验性版本DeepSeek-V3.2-Exp模型,寒武纪迅速宣布完成适配并开源相关引擎代码,凭借生态积累与技术优势实现新模型架构的快速适配与极致性能优化,携手为客户打造高竞争力软硬件方案。

9 月 30 日消息,DeepSeek 正式发布了 DeepSeek-V3.2-Exp 模型,这是一个实验性(Experimental)的版本。寒武纪也宣布,已同步实现对深度求索公司最新模型 DeepSeek-V3.2-Exp 的适配,并开源大模型推理引擎 vLLM-MLU 源代码。
寒武纪称,一直高度重视大模型软件生态建设,支持以 DeepSeek 为代表的所有主流开源大模型。借助于长期活跃的生态建设和技术积累,寒武纪(jì)得(de)以(yǐ)快(kuài)速(sù)实(shí)现(xiàn)对(duì) DeepSeek-V3.2-Exp 这(zhè)一(yī)全新(xīn)实(shí)验(yàn)性(xìng)模(mó)型(xíng)架(jià)构(gòu)的(de) day 0 适(shì)配(pèi)和(hé)优(yōu)化(huà)。
针(zhēn)对(duì)本(běn)次(cì)的(de) DeepSeek-V3.2-Exp 新(xīn)模(mó)型(xíng)架(jià)构(gòu),寒(hán)武(wǔ)纪(jì)通(tōng)过(guò) Triton 算(suàn)子(zi)开(kāi)发(fā)实(shí)现(xiàn)了(le)快(kuài)速(sù)适(shì)配(pèi),利(lì)用(yòng) BangC 融(róng)合(hé)算(suàn)子(zi)开(kāi)发(fā)实(shí)现(xiàn)了(le)极(jí)致(zhì)性(xìng)能(néng)优(yōu)化(huà),并(bìng)基(jī)于(yú)计(jì)算(suàn)与(yǔ)通(tōng)信(xìn)的(de)并(bìng)行(xíng)策(cè)略(è),再(zài)次(cì)达(dá)成(chéng)了(le)业(yè)界(jiè)领(lǐng)先(xiān)的(de)计(jì)算(suàn)效(xiào)率(lǜ)水(shuǐ)平(píng)。依(yī)托(tuō) DeepSeek-V3.2-Exp 带(dài)来(lái)的(de)全新(xīn) DeepSeek Sparse Attention 机(jī)制(zhì),叠(dié)加(jiā)寒(hán)武(wǔ)纪(jì)的(de)极(jí)致(zhì)计(jì)算(suàn)效(xiào)率(lǜ),可(kě)大(dà)幅(fú)降(jiàng)低(dī)长(zhǎng)序(xù)列(liè)场(chǎng)景(jǐng)下(xià)的(de)训(xun)推(tuī)成(chéng)本,共同为客户提供极具竞争力的软硬件解决方案。
扫二维码用手机看
官方网站-首页