【Triton 教程】triton.Config

2025-05-17 0 392

Triton 是一种用于并行编程的语言和编译器。它旨在提供一个基于 Python 的编程环境,以高效编写自定义 DNN 计算内核,并能够在现代 GPU 硬件上以最大吞吐量运行。
更多 Triton 中文文档可访问 →https://triton.hyper.ai/

 classtriton.Config(self, kwargs, num_warps=4, num_stages=2, num_ctas=1, maxnreg=None, pre_hook=None)

表示自动调优可能尝试的内核配置的对象

变量

kwargs – 1 个元参数字典,用于作为关键字参数传递给内核。

num_warps – 在为 GPU 编译时内核使用的线程数。例如,如果 num_warps=8,则每个内核实例将自动并行化,使用 8 * 32 = 256 个线程协作执行。

num_stages – 编译器在软件流水线循环时应使用的阶段数。对于 SM80+ GPU 上的矩阵乘法工作负载非常有用。

num_ctas – 块集群中的块数。仅适用于 SM90+。

maxnreg – 单个线程可以使用的最大寄存器数。对应于 ptx 的 .maxnreg 指令。并非所有平台都支持。

pre_hook – 在调用内核之前将被调用的函数。该函数的参数是 args。

__init__(self, kwargs, num_warps=4, num_stages=2, num_ctas=1, maxnreg=None, pre_hook=None)

方法

init(self, kwargs[, num_warps, …])
all_kwargs (self)

相关文章

发表评论
暂无评论
  • 168460 +

    访问总数

  • 6766 +

    会员总数

  • 267 +

    商品总数

  • 0 +

    今日发布

  • 0 +

    本周发布

  • 93 +

    运行天数

壹快网与你10年之约,你的前景远超我们想象