热点:

    英特尔至强平台加持,推理计算加速AI落地

      [  中关村在线   ]   作者:销售编辑

       今天,各行各业正与人工智能加速融合,通过智能化创新来寻求业务转型升级。大多数传统行业或企业有着更丰富的AI应用场景,推动着规模化的AI应用落地,其AI应用更具有实践意义。然而,在智能化技术架构和平台选择上,它们又往往面临着诸多尴尬局面。

        仅仅采用专用加速芯片或优化单一框架,已经无法满足运行不同工作负载和适应不同应用场景所需。AI的应用需求是多种多样的,不同的应用也决定了从数据中心到边缘再到设备所需的硬件能力都有所差别。而且,解决企业AI规模化落地,需要充分利用以数据为中心的基础架构,考虑处理器、核心算法和软件工具等平台解决方案的选择。

        基于既有的IT基础架构,统一大数据和人工智能平台,可以更加高效的释放数据价值,实现AI业务目标。宝德人工智能计算平台有英特尔计算架构和至强平台助力,可以帮助企业从既有的平台起步,加速破局AI产业实践。以AI推理服务器为例,基于英特尔至强平台,在性能、可扩展性、内存、跨平台部署应用等方面具有先发优势。

        性能

        随着CPU性能的数量级提升,以及在软硬件层面针对AI应用的不断优化,CPU平台也能很好地承载AI应用。现在CPU能兼容几乎所有的AI主流技术,深度学习的应用任务,特别是推理,完全可以用CPU来搞定。

        不断更新换代的英特尔CPU平台,已经在众多AI应用,特别是推理上提供了强大的算力。宝德AI推理服务器上搭载的第二代英特尔至强可扩展处理器,它集成了加速人工智能深度学习推理的英特尔深度学习加速(英特尔DLBoost)技术,将人工智能性能提升到一个全新的水平,可加速数据中心、企业和智能边缘计算环境中的人工智能推理工作负载。其图像识别的速度可比上一代英特尔至强可扩展处理器提升14 倍。

        可扩展性

        作为基础硬件设施,宝德AI推理服务器能真正做到精细化的资源管理和调配。这使得AI平台可以尽可能通过云化来提高灵活性,提升自动化管理水平,并充分利用到每个计算核心的价值等。宝德AI推理服务器内的每颗核心、缓存、内存控制器及I/O控制器之间的路径选择更多元,还可以跨不同的节点互连,以寻找最短的数据传递捷径,即使是加大核心数量,也能够维持很快存取数据,并支持更高内存频宽,以及更高速的I/O 传输。

        内存

        宝德AI推理服务器支持英特尔®傲腾™DC持久内存,集大容量、经济性和持久性于一身。不论是AI训练还是推理,靠近计算单元的内存或者说较高速的数据缓存都非常重要。在AI分析中,内存对训练中的神经网络构建,并通过该网络进行推理比较都有着重要的影响。因此宝德AI推理服务器在设计中靠近计算单元,尽可能缓存更多数据,其容量的增加,很大程度上提高了整体性能、准确性、响应速度。

        跨平台部署应用

        宝德AI推理服务器支持计算机视觉加速的异构执行,可通过基于英特尔架构的处理器及深度学习加速芯片,增强视觉系统功能和性能;还可以支持英特尔FPGA深度学习来简化推理的工作负载,帮助开发人员和数据科学家提高计算机视觉应用性能,简化深度学习部署过程,应用范围包括图像分类、机器视觉、自动驾驶、军事以及医疗诊断等场景。

        一方面,宝德AI推理服务器的CPU计算能力通过软硬件协同优化不断提升,可以更好地适应AI场景需求,企业也渐渐意识到用CPU来运算AI已经足够了;另一方面,宝德的AI软硬件产品组合正在不断完善,非常丰富的产品组合是宝德与其他公司实现差异化的最大亮点。

    news.zol.com.cn true //news.zol.com.cn/728/7280942.html report 2697    今天,各行各业正与人工智能加速融合,通过智能化创新来寻求业务转型升级。大多数传统行业或企业有着更丰富的AI应用场景,推动着规模化的AI应用落地,其AI应用更具有实践意义。然而,在智能化技术架构和平台选择上,它们又往往面临着诸多尴尬局面。仅仅采用...
    • 猜你喜欢
    • 最新
    • 精选
    • 相关
    推荐问答
    提问
    0

    下载ZOL APP
    秒看最新热品

    内容纠错