1月27日,中国电信中部智算中心在武汉东湖新技术开发区(光谷)正式投入运营。该智算中心的计算能力、安全性能、环保标准以及可扩展性都达到了一流水平,是中部地区最高等级的设施。
中国电信中部智算中心采用了先进自主液冷智算集群,首次使用基于国产AI基础软硬件平台的方案架构,实现了从存储到网络再到电力和热量的整体设计。通过独特的嵌入式液冷单元、盲插总线架构等技术,在达到业界一流绿色节能环保水平的同时,可以支持部署万亿参数大模型。
中国电信在全国范围内建设了多个智能计算中心,并提供5000PFLOPS的智能计算能力。中部智算中心依托天翼云骁一体化计算平台,为用户提供高性能、高显存和高兼容性的主流大模型训练和推断一体的计算能力。同时,中部智算中心还支持多种框架和芯片,并且可以进行训练推理混合调度,资源利用率可以提升20%。
根据中国电信介绍,在千卡模型下并行计算效率可以达到80%,而这一成绩主要得益于高性能基础设施和一系列优化技术的支持。此外,中部智算中心拥有先进的液冷技术,其PUE值为1.15,处于业内一流绿色节能环保水平。
本文属于原创文章,如若转载,请注明来源:中国电信中部智算中心在武汉投运,支持部署万亿参数大模型https://news.zol.com.cn/853/8537287.html