热点:

    国产CPU也能支持DeepSeek 性能达到国外CPU的80%

      [  中关村在线 原创  ]   作者:八月八
    返回分页阅读本文导航

    01国产CPU也能支持DeepSeek

    产品:F300-G40 (飞腾D2000/8GB/256GB+6GB) 中科曙光 工作站

    飞腾平台现已实现对DeepSeek全系列大模型的端到端支持,包括飞腾腾云S5000C和飞腾腾锐D3000处理器,覆盖了数据中心和终端场景,并且性能表现优异。

    国产CPU也能支持DeepSeek 性能达到国外CPU的80%

    飞腾在DeepSeek-V3和R1版本发布后,迅速在腾云S5000C和腾锐D3000平台上进行了本地部署验证,形成了整体的解决方案,构建了端到端的国产平台DeepSeek大模型智算环境。在数据中心方面,腾云S5000C服务器可与多款AI加速卡配合,实现DeepSeek蒸馏版和全量版的部署。

    官方实测数据显示,飞腾腾云S5000C搭配8块国产AI加速卡,DeepSeek-R1-Distill-Llama-70B版本的推理速度可达每秒22个tokens,其本地部署的推理效率与国外同类产品相当,整体性能约为国外平台性能的80%。此外,完整版DeepSeek R1 671B模型也已成功部署在基于四机、32卡AI服务器集群的分布式推理框架上。

    国产CPU也能支持DeepSeek 性能达到国外CPU的80%

    在用户终端方面,基于腾锐D3000和银河麒麟V10系统的台式机能够本地部署DeepSeek-R1 7B蒸馏版模型,并搭配1张国产推理卡,实现了AI PC能力,构建了安全可靠的本地知识助手。

    02中科曙光F300-G40 详细参数

    返回分页阅读本文导航
    • 猜你喜欢
    • 最新
    • 精选
    • 相关
    推荐问答
    提问
    0

    下载ZOL APP
    秒看最新热品

    内容纠错