triton.language.atomic_xchg

1. OP 概述

简介：原子性交换操作，在指定的内存位置执行原子交换操作 原型：

triton.language.atomic_xchg(
	pointer, 
	val, 
	mask=None, 
	sem=None, 
	scope=None, 
	_semantic=None
)→ pointer

可以作为tensor的成员函数调用，如x.atomic_xchg(...)，与atomic_xchg(x, ...)等效。

2. OP 规格

2.1 参数说明

参数名	类型	说明
pointer	triton.PointerDType	要操作的内存位置，将 *pointer 更新为 val，计算后的结果写回到该内存
val	pointer.dtype.element_ty	要更新为的目标值（右操作数）
mask	int1或tensor<int1>，可选	指定数据范围，防止访问越界
sem	str，可选	指定操作的内存语义 社区官方配置可接受的值为“acquire”、“release”、“acq_rel”（默认，代表“ACQUIRE_RELEASE”）和“relaxed” 我们只支持“acq_rel”： - acquire：获取锁后，能够看到之前的释放操作（相当于一个“读取”操作，并且这个读取操作会阻塞，直到能够读取到“最新”的数据，也就是其他线程释放后的数据） - release：在释放锁之前的所有操作，对后续获取锁的线程可见（相当于一个“写入”操作，并且这个写入操作会“同步”所有之前的写操作）
scope	str，可选	观察原子操作同步效果的线程范围 可接受的值为“gpu”（默认）、“cta”（协作线程数组、线程块）或“sys”（代表“SYSTEM”） 我们只支持“gpu”
_semantic	-	保留参数，暂不支持外部调用

返回值： pointer：tensor，执行操作之前的旧值

2.2 支持规格

2.2.1 DataType 支持

	int8	int16	int32	uint8	uint16	uint32	uint64	int64	fp16	fp32	fp64	bf16	bool
GPU	×	×	√	×	×	√	√	√	×	√	√	×	×
Ascend A2/A3	√	√	√	√	√	√	√	√	√	√	×	×	×

2.2.2 Shape 支持

无特殊要求，默认八维

2.3 特殊限制说明

相对社区能力缺失且做不到

差异点	描述
sem	社区官方配置可接受的值为“acquire”、“release”、“acq_rel”（默认，代表“ACQUIRE_RELEASE”）和“relaxed” 我们只支持“acq_rel”
scope	可接受的值为“gpu”、“cta”、或“sys”、 我们只支持“gpu”

2.4 使用方法

以下示例实现了原子与计算：

@triton.jit
def atomic_xchg(in_ptr0, out_ptr0, out_ptr1, n_elements, BLOCK_SIZE: tl.constexpr):
    xoffset = tl.program_id(0) * BLOCK_SIZE
    xindex = xoffset + tl.arange(0, BLOCK_SIZE)[:]
    yindex = tl.arange(0, BLOCK_SIZE)[:]
    xmask = xindex < n_elements
    x0 = xindex
    x1 = yindex
    tmp0 = tl.load(in_ptr0 + (x0), xmask)
    tmp1 = tl.atomic_xchg(out_ptr0 + (x1), tmp0, xmask)
    tl.store(out_ptr1 + (x0), tmp1, xmask)