在 2019 年 4 月,高通公司发布了一款专用于云端 AI 加速的处理器 Qualcomm Cloud AI 100,采用 7nm 工艺,性能比当时业界最先进的 AI 推理解决方案高出 10 倍以上。
该加速器具有先进的信号处理能力和领先的能源效率,以满足包括数据中心、云边、边缘设备和5g基础设施在内的许多人工智能解决方案的运行环境的需求。
新宣布的QualcomCloudai100Edge解决方案开发工具包旨在通过提供一组用于人工智能处理的系统级解决方案来加速EDGE应用程序的普及,支持多达24 1080 p的视频流和5g连接。
在硬件方面,QualCommCloudai 100支持高达400顶的ai计算能力,并在7nm进程的支持下具有优良的性能-功率比,旨在提供业界领先的人工智能推理效率。QualCommCloudai 100还支持15W到75W的各种设备形式,包括PCI-E卡。
至于 Qualcomm Cloud AI 100 软件套件,其中包含一套完整的工具栈,并支持 Tensorflow、PyTorch 和 Caffe 等主流框架,以及 GLOW 和 ONNX 等 runtimes。
该软件套件包括具备编译器和模拟器的 Qualcomm Cloud AI 100 应用 SDK,以及具备 runtimes、API、内核驱动程序和工具的平台 SDK,旨在支持 Qualcomm Cloud AI 100 平台在多个运行环境中的开发、测试及部署。
QualcomCloudai 100开发套件由三个模块化的高通组件组成:
总的来说,QualCommCloudai100Edge场景开发工具包是一种优化的系统级解决方案,提供高性能的人工智能推理、视频处理和5g连接。
而本次交付的 Qualcomm Cloud AI 100 加速器和边缘方案开发套件,峰值性能能达到骁龙 855 和骁龙 820 的的 3 至 50 倍,就是高通在云端 AI 方面强大实力的最好例证。随着 5G 商业部署的深入,高通将推进 AI 在运算进行大规模的训练和推理,然后通过高速率低时延的 5G 网络,将 AI 的具体能力和执行落实到边缘终端侧,让边缘计算和云端的运算实时协同,既拥有强大的运算性能,又拥有极低的时延,从而让 AI 能够赋能社会生产生活的各方各面,彻底变革我们的生活方式。