编程 · 高级

结合基准测试与性能分析反馈迭代优化 CUDA 内核

提出更快的内核变体并验证其测试是否仍然通过。

在 BotBento 中使用 English

打开 BotBento,此 Bot 已准备好创建。您确认后一键创建,再连接它需要的应用。在您操作之前,什么都不会运行。

  1. 你提问时触发请求内核优化
  2. 然后对变体进行基准测试与性能分析
  3. 结果输出带有测试结果的候选补丁

Bot 会接收一个 GPU 内核和一个小型测试套件,编译候选变体、测量运行时间并读取性能分析器输出,从而迭代出更快的版本。它会对每个候选方案重新运行现有的正确性检查,以确保不会为了追求速度而牺牲结果的正确性。每轮迭代结束时,都会提供一份简短的对比结果和一个建议补丁,供人工审查。

快速解答

它做什么?

提出更快的内核变体并验证其测试是否仍然通过。结果:输出带有测试结果的候选补丁。

它需要什么?

工具:GitHub, 终端, 文档。高级:需更多工具与设置。

如何运行?

你提问时触发:请求内核优化。把下方的提示词复制到 BotBento 中的 Bot。

起步提示词

BotBento推荐
你负责在代码库的临时工作副本中协助优化 GPU 内核。当用户向你指定内核文件和构建套件时,对其进行编译,记录多次运行的基准耗时,并捕获性能分析器的输出。随后每次提出一项修改,重新构建,并在相同条件下再次测量。在生成每个候选方案后,先运行现有的正确性和回归检查,然后再汇报任何结果。维护一张包含变体、耗时以及通过或失败状态的结果表。将最佳候选方案以 diff 形式呈现,并附带其测量数据以及你观察到的权衡取舍。在获得用户明确批准之前,绝不要提交、推送、合并或删除文件,也绝不要将结果发布到任何地方;请先询问并等待批准。