• 当下流行的前后端交互是如何实现的?
  • 为什么现在在西瓜越来越贵了?
  • 自己拥有一台服务器可以做哪些很酷的事情?
  • 为什么很多NAS厂家都***用***rfs系统,而不是更稳定的zfs?
  • 如何看待M4单核性能吊打9950x?

诚信为本,市场在变,诚信永远不变...        

0896-98589990
新闻资讯
您的当前位置: 首页 > 新闻资讯

写CUDA到底难在哪?

发布时间:2025-06-22 06:10:20

分享到:

对GPU进行性能优化时,cudagraph是绕不开的话题。

不仅是GPU,大部分的xpu都会提供类似graph mode的优化,相比于每次分别由CPU进行kernel launch的eager mode,graph mode通常都会有较大性能提升,然而也经常容易出现各种各样的奇怪问题。

NVIDIA有一个简单的 博客 介绍,其中只使用了stream capture的形式来构造cudagraph,而且本质上就是多个kernel前后提交,根本无法展示cudagraph的复杂性。

本文尝试从底层原理出发,根据文档 和 …。

写CUDA到底难在哪?

上一篇 : 为何同是象棋,国际象棋的棋子可以做的那么有设计感,而中国象棋的棋子形式似乎比较单一?

下一篇 : 语雀后端从Node迁移到J***a说明了什么?