10 月 18 日，英伟达宣布了一款新的软件工具——TensorRT-LLM 开源库。这款库原本是为数据中心发布的，现在也可以用于 Windows PC，并且最大的特点是，如果 Windows PC 配备英伟达 GeForce RTX GPU，那么 TensorRT-LLM 可以让 LLM 在 Windows PC 上的运行速度提高四倍。
英伟达在文章中指出，这种加速可显著改善更复杂的 LLM 使用体验，比如写作和编码助手。同时，在更大的批量大小下，这种加速可显著改善性能并改进质量。因此，用户可以有最好的选择。
此外，英伟达还增加了一些基于人工智能的功能到新的 GeForce 驱动更新中。其中包括新的 1.5 版本的 RTX Video Super Resolution 功能，可以在观看在线视频时提供更好的分辨率提升效果和更少的压缩效果。另外，英伟达还为 Stable Diffusion Web UI 增加了 TensorRT 人工智能加速功能，让拥有 GeForce RTX GPU 的用户可以比正常情况下更快地从人工智能图片生成器那里获得图像。
总而言之，英伟达正在通过其产品和技术来推动人工智能的发展，并且这些新产品和服务将为用户提供更智能的解决方案。
本文属于原创文章，如若转载，请注明来源：英伟达宣布开源TensorRT库，PC性能提升四倍https://news.zol.com.cn/837/8372970.html
