热点:

    采用CoWoS封装!曝英伟达中国特供版H20在LLM推理中比H100更快

      [  中关村在线 原创  ]   作者:拿铁不加冰

    11月9日,国外科技媒体发布了一篇付费文章,称三款中国特供版AI芯片中的某一款在LLM推理中比H100快20%以上。这些AI芯片是基于英伟达H100改良而来的产品,目前已经生产出样品,并预估下月投入批量生产。

    据报道称,英伟达预计最快将于11月16号之后公布这些产品,国内厂商最快将在几天内拿到样品。

    该文章详细介绍了英伟达H20、L20和L2的详细信息,包括FLOPS数据、NVLink带宽、功耗、内存带宽、内存容量和芯片尺寸等。

    值得注意的是,在这三款中国特供版GPU中,其中一款(并未明确指代哪款)在LLM推理中要比H100快20%,而且其性能接近于英伟达明年年初发布的新型号GPU。

    除此之外,报道还提及到英伟达HGX H20采用HGX格式,并使用了台积电CoWoS封装技术。另外两款芯片主要基于Ada架构设计,面向游戏领域,并不需要复杂程度较高的封装。

    该篇文章预测了英伟达未来两个财年的业绩表现。此前有消息称由于美国对其采取制裁措施,英伟达已经失去了超过50亿美元的订单,而借助这些中国特供的AI芯片将会改善英伟达的业务表现。

    本文属于原创文章,如若转载,请注明来源:采用CoWoS封装!曝英伟达中国特供版H20在LLM推理中比H100更快https://news.zol.com.cn/841/8413500.html

    news.zol.com.cn true https://news.zol.com.cn/841/8413500.html report 846 11月9日,国外科技媒体发布了一篇付费文章,称三款中国特供版AI芯片中的某一款在LLM推理中比H100快20%以上。这些AI芯片是基于英伟达H100改良而来的产品,目前已经生产出样品,并预估下月投入批量生产。据报道称,英伟达预计最快将于11月16号之后公布这些产品,国内厂商最...
    • 猜你喜欢
    • 最新
    • 精选
    • 相关
    推荐问答
    提问
    0

    下载ZOL APP
    秒看最新热品

    内容纠错