写CUDA到底难在哪？
更新时间：2025-06-21 14:40:11
对GPU进行性能优化时，cudagraph是绕不开的话题。
不仅是GPU，大部分的xpu都会提供类似graph mode的优化，相比于每次分别由CPU进行kernel launch的eager mode，graph mode通常都会有较大性能提升，然而也经常容易出现各种各样的奇怪问题。
NVIDIA有一个简单的 博客 介绍，其中只使用了stream capture的形式来构造cudagraph，而且本质上就是多个kernel前后提交，根本无法展示cudagraph的复杂性。
本文尝试从底层原理出发，根据文档 和 …。
案例推荐
case recommendation-
Camtasia Studio软件应用求助？
查看案例
-
为何Microsoft能一直留在中国市场?
查看案例
-
为何说香港《稳定币条例》将改写未来世界比特币等数字货币市场格局，港币和人民币的国际化会受益于此么？
查看案例
-
现在还有人一直坚持使用 Eclipse，不使用 IntelliJ IDEA 吗？
查看案例
-
为什么日本经济下降，大学排名跌至谷底，还有那么多人挤破脑袋去日本留学？
查看案例
-
有网友称相机电池不能上飞机了，哪怕是原厂电池只要没有 3C 标志就不行，是真的吗？这规定合理吗？
查看案例
-
34岁，女性，不想过夫妻生活，怎么跟老公沟通效果更好？
查看案例
-
TypeScript 原生预览版使用体验如何？
查看案例