日前,北电数智基于“宝塔·模型适配平台”,完成DeepSeek V3/R1全尺寸模型与海光DCU、华为、壁仞科技、沐曦等国产芯片的混元算力适配,为开发者带来更多算力选择。用户可忽略底层硬件差异,平台基于用户调用需求自动匹配合适算力进行DeepSeek模型的推理。

1

DeepSeek采用创新的混合专家系统(DeepSeekMoE)、多头潜在注意力机制(MLA)、自研训练框架等多项工程化创新,基于较少GPU训练机时实现了R1与OpenAI o1‌相当、V3与OpenAI 4o相当的模型性能,具有高推理效率和低训练成本的特点,彰显了坚持中国原创的价值。

DeepSeek的算法创新对AI芯片通用性提出更高要求,国产芯片在底层架构、软件生态上各有不同,北电数智的高质量AI工具链“宝塔·模型适配平台”能抹平芯片架构的差异,快速实现对模型的优化支持和硬件适配。目前宝塔已完成24款基座大模型适配。

在处理推理任务层面,针对DeepSeek类超大模型,数据中心的集群化推理变得尤为重要,例如PD分离(Prefill-Decode分离)技术就可由不同芯片完成不同阶段推理任务实现。北电数智的混元推理技术路线与DeepSeek技术路线具有天然匹配性,可进一步优化推理效果,加速推理速度,降低推理成本,解决算力不够用问题。

DeepSeek的发展给行业带来了深刻启示,唯有促进、满足国产原生模型的算力需求才能真正推动国产算力发展。为全面挖掘芯片性能潜力与适配能力,北电数智推出“星火·国产算力AI原生适配认证”,加强国产模型与国产算力适配,推动国产算力芯片孵化AI原生应用。

北电数智已正式开通企业版内测,通过“北京数字经济算力中心”为广大企业和开发者提供便捷、高效的算力服务,助力用户在多芯混元算力上轻松构建和部署基于DeepSeek模型的AI应用。

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2025-02-14 16:04:43
市场情报 重磅发布!宏杉科技DeepSeek一体机解决方案,释放AI时代数据价值
宏杉科技本次发布的DeepSeek一体机解决方案,可充分满足传统结构化数据库存储、新型非结构化大模型存储的多样化需求,全面释放大模型的应用潜能。 <详情>
2025-02-11 10:54:27
国内资讯 接入DeepSeek的智算中心有哪些?
“接入DeepSeek”,可以说是最近几天最常见的新闻。接入的主体包括运营商、云厂商、芯片厂商、第三方大模型产品等等,智算中心作为AI算力的基础设施,自然也不能缺席这一场 <详情>
2025-02-10 15:34:39
云资讯 优刻得专有云助您抢占DeepSeek风口,闲置AI算力轻松变现
随着众多国产芯片已密集适配DeepSeek,国产算力在AI推理任务中已呈现高效兼容性和易用性。 <详情>
2024-07-03 19:33:02
市场情报 驾驭AI“算力风暴”,在2024全球数字经济大会看懂北电数智的AI全栈布局
北电数智重磅展示了四大AI创新产品和垂类行业模型矩阵,全面展示其最新的技术成果。 <详情>