NVIDIA Nsight Python教程：如何对GPU内核进行性能分析

MarkTechPost发布的一篇教程介绍了如何使用Nsight Python对GPU内核进行性能分析。Nsight Python是英伟达为其内核分析工具推出的开源Python接口，开发者无需再通过Nsight Compute命令行运行脚本、事后翻阅报告，而是用nsight.annotate标记需要关注的代码，再用nsight.analyze.kernel装饰基准测试函数，即可按标注区域、配置和运行次数获得一份包含硬件指标的pandas数据表。自1.0版本起，该库会将Nsight Compute附加到正在运行的Python进程上，因此可以在Jupyter和Colab中使用；即将发布的1.1版本则新增了实验性的CUPTI后端、显式工具管理以及自定义信息收集器。教程全程在免费的Colab T4环境中运行，先在Colab自带版本之外安装较新的Nsight Compute，随后分析第一个内核，确定一次测量需要运行多少次，考察缓存与时钟控制对同一内核结果的影响，在fp32和fp16精度下扫描不同矩阵规模并计算衍生的TFLOP/s指标，借助硬件计数器区分计算受限与内存受限的任务，以数据搬运字节数衡量内核融合的效果，逐次记录时钟频率与温度，比较CUPTI后端与Nsight Compute的差异，并保留原始报告以便深入分析。