写CUDA到底难在哪？
更新时间：2025-06-22 11:50:11
对GPU进行性能优化时，cudagraph是绕不开的话题。
不仅是GPU，大部分的xpu都会提供类似graph mode的优化，相比于每次分别由CPU进行kernel launch的eager mode，graph mode通常都会有较大性能提升，然而也经常容易出现各种各样的奇怪问题。
NVIDIA有一个简单的 博客 介绍，其中只使用了stream capture的形式来构造cudagraph，而且本质上就是多个kernel前后提交，根本无法展示cudagraph的复杂性。
本文尝试从底层原理出发，根据文档 和 …。
案例推荐
case recommendation-
能发一张在暧昧期的聊天记录吗？
查看案例
-
武松杀嫂，为什么要先扯开她的胸衣，多此一举还是另有深意？
查看案例
-
J***a 除了 Spring 还有什么？
查看案例
-
字节跳动技术副总裁开源了自己与Trae合作的首个项目，如何评价目前AI开发的水平？
查看案例
-
如何看待安徽宿州一农场500亩土豆遭几百名村民哄抢，曝光后民警要求种植户删帖？法不责众？如何有效维权？
查看案例
-
为什么中国现在全球军事实力第一，但包括中国人在内很多人不认可？
查看案例
-
如何评价网易国产动作冒险单机新作《归唐》首支预告片？
查看案例
-
如何看待华为Pura80标准版手机接口竟倒退成USB 2.0？要是也烧了WIFI是不是不好备份数据？
查看案例