热点:

    Nvidia将为数据中心带来双GPU

      [  中关村在线 原创  ]   作者:老王

    Nvidia在其GTC 2023年春季主题演讲中宣布了一个新的双GPU产品,H100 NVL。这不会带来SLI或多GPU游戏的回归,也不会是最好的游戏显卡之一,而是针对不断增长的AI市场。从Nvidia发布的信息和图片来看,H100 NVL(H100 NVLink)将在顶部采用三个NVLink连接器,相邻的两块卡可插入独立的PCIe插槽。

    Nvidia将为数据中心带来双GPU

    这是一个有趣的变化,显然是为了适应不支持Nvidia的SXM选项的服务器,重点是推理性能而不是训练。NVLink连接应该有助于提供NVSwitch在SXM解决方案上提供的缺失带宽,而且还有一些其他明显的区别。

    以规格为例。以前的H100解决方案--包括SXM和PCIe--都配备了80GB的HBM3内存,但实际包装包含六个堆栈,每个堆栈有16GB的内存。目前还不清楚是否有一个堆栈被完全禁用,或者是用于ECC或其他目的。我们所知道的是,H100 NVL每个GPU将有94GB,总共有188GB HBM3。我们认为每个GPU "缺少 "的2GB是为了ECC。

    功率比H100 PCIe略高,每个GPU为350-400瓦(可配置),增加50瓦。同时,总性能实际上是H100 SXM的两倍:134 teraflops的FP64,1,979 teraflops的TF32,和7,916 teraflops FP8(以及7,916 teraops INT8)。

    基本上,这看起来与H100 PCIe的核心设计相同,它也支持NVLink,但现在可能启用了更多的GPU核心,而且内存增加了17.5%。内存带宽也比H100 PCIe高一些,每个GPU为3.9TB/s,合计7.8TB/s(而H100 PCIe为2TB/s,H100 SXM为3.35TB/s)。

    由于这是一个双卡解决方案,每张卡占用2个插槽的空间,Nvidia只支持合作伙伴和认证系统的2至4对H100 NVL卡。一对的价格是多少,它们是否可以单独购买?这还有待观察,尽管单块H100 PCIe有时可以找到,价格约为28,000美元(在新标签中打开)。因此,80,000美元购买一对H100 NVL似乎并不是不可能的事。

    本文属于原创文章,如若转载,请注明来源:Nvidia将为数据中心带来双GPUhttps://news.zol.com.cn/814/8144027.html

    news.zol.com.cn true https://news.zol.com.cn/814/8144027.html report 1556 Nvidia在其GTC 2023年春季主题演讲中宣布了一个新的双GPU产品,H100 NVL。这不会带来SLI或多GPU游戏的回归,也不会是最好的游戏显卡之一,而是针对不断增长的AI市场。从Nvidia发布的信息和图片来看,H100 NVL(H100 NVLink)将在顶部采用三个NVLink连接器,相邻的两块卡...
    提示:支持键盘“← →”键翻页阅读全文
    本文导航
    • 第1页:英伟达推出多卡服务器
    • 猜你喜欢
    • 最新
    • 精选
    • 相关
    推荐问答
    提问
    0

    下载ZOL APP
    秒看最新热品

    内容纠错