01国产CPU也能支持DeepSeek
产品:F300-G40 (飞腾D2000/8GB/256GB+6GB) 中科曙光 工作站飞腾平台现已实现对DeepSeek全系列大模型的端到端支持,包括飞腾腾云S5000C和飞腾腾锐D3000处理器,覆盖了数据中心和终端场景,并且性能表现优异。
飞腾在DeepSeek-V3和R1版本发布后,迅速在腾云S5000C和腾锐D3000平台上进行了本地部署验证,形成了整体的解决方案,构建了端到端的国产平台DeepSeek大模型智算环境。在数据中心方面,腾云S5000C服务器可与多款AI加速卡配合,实现DeepSeek蒸馏版和全量版的部署。
官方实测数据显示,飞腾腾云S5000C搭配8块国产AI加速卡,DeepSeek-R1-Distill-Llama-70B版本的推理速度可达每秒22个tokens,其本地部署的推理效率与国外同类产品相当,整体性能约为国外平台性能的80%。此外,完整版DeepSeek R1 671B模型也已成功部署在基于四机、32卡AI服务器集群的分布式推理框架上。
在用户终端方面,基于腾锐D3000和银河麒麟V10系统的台式机能够本地部署DeepSeek-R1 7B蒸馏版模型,并搭配1张国产推理卡,实现了AI PC能力,构建了安全可靠的本地知识助手。