在IT行业，吉姆•凯勒是一位备受尊敬的专家，被誉为“硅仙人”。近日，他在推特上发表了一条推文，引起了业界的广泛关注。
凯勒认为，CUDA并非什么不可逾越的护城河，而是像树沼一样难以穿越。实际上，在实际开发中很少有人会使用CUDA工具包进行编程。即使有些开发者写了相关代码，执行速度也并不令人满意。因此，在市场上诞生了诸如Triton、Tensor RT、Neon和Mojo等其他选项。
他还提到，英伟达为确保软件和硬件的兼容性而逐步增加功能的过程中，拖慢了性能，并增加了程序开发的难度。与此同时，许多开源软件开发框架可以比CUDA更高效地利用资源。
甚至Nvidia本身也存在一些不完全依赖于CUDA的工具。例如，Triton Inference Server是一款由Nvidia推出的开源工具，可简化人工智能模型的大规模部署，并支持多种框架（包括TensorFlow、PyTorch和ONNX）。
此外，Triton还提供模型版本化、多模型服务和并发模型执行等功能，以优化GPU和CPU资源的利用率。
凯勒表示：“CUDA工具包就像树沼一样无法跨越。”他指出，在实际开发中很少有人使用CUDA进行编程，并质疑其性能是否值得我们投入更多时间和精力去学习和掌握它。
本文属于原创文章，如若转载，请注明来源：硅仙人称CUDA难以逾越，你怎么看？NV回应绝了https://news.zol.com.cn/856/8564437.html
