SDPBackend

class torch.nn.attention.SDPBackend

一个枚举类，包含缩放点积注意力（scaled dot product attention）的不同后端。此后端类设计用于 `sdpa_kernel` 上下文管理器。

以下枚举可用

• ERROR: 尝试确定后端时发生错误。

• MATH: 缩放点积注意力的数学后端。

• FLASH_ATTENTION: 缩放点积注意力的 Flash Attention 后端。

• EFFICIENT_ATTENTION: 缩放点积注意力的高效注意力后端。

• CUDNN_ATTENTION: 缩放点积注意力的 cuDNN 后端。

• OVERRIDEABLE: 可覆盖的扩展后端。

有关更多详细信息，请参阅 torch.nn.attention.sdpa_kernel()。

警告

此类尚处于 Beta 阶段，可能会发生更改。

property name