联发科于11月6日正式发布了旗舰级5G移动芯片天玑9300，该芯片集成了MediaTek第七代AI处理器APU 790，并支持端侧生成式AI、游戏和影像等方面的体验。
据了解，天玑9300的性能和能效都有显著提升，整数运算和浮点运算的性能是前一代产品的两倍，功耗降低了45%。APU 790内置了硬件级别的生成式AI引擎，可以实现更高速且安全的边缘AI计算。此外，基于亿级参数大语言模型特性开发的混合精度INT4量化技术能够大幅减少AI大模型对终端内存的占用，并支持运行10亿、70亿、130亿甚至最高可达330亿参数的AI大语言模型。
另外，APU 790还支持生成式AI模型端侧“技能扩充”技术NeuroPilot Fusion，在基础大模型上通过低秩自适应融合赋予其更全面的能力。与此同时，联发科的AI开发平台NeuroPilot构建了丰富的AI生态，支持多种前沿主流AI大模型，并提供完整的工具链以帮助开发者快速高效地部署多模态生成式AI应用，为用户提供创新的终端侧生成式AI体验。
本文属于原创文章，如若转载，请注明来源：天玑9300 AI能力逆天了：最高支持330亿参数的AI大语言模型https://news.zol.com.cn/840/8407232.html
