CANN/asc-devkit原子比较交换API文档

asc_atomic_cas【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品不支持Atlas A2 训练系列产品/Atlas A2 推理系列产品不支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明对Unified Buffer或Global Memory上address的数值进行原子比较赋值操作如果address上的数值等于指定数值compare则对address赋值为指定数值val否则address的数值不变。函数原型inline float asc_atomic_cas(float *address, float compare, float val)inline int32_t asc_atomic_cas(int32_t *address, int32_t compare, int32_t val)inline uint32_t asc_atomic_cas(uint32_t *address, uint32_t compare, uint32_t val)inline int64_t asc_atomic_cas(int64_t *address, int64_t compare, int64_t val)inline uint64_t asc_atomic_cas(uint64_t *address, uint64_t compare, uint64_t val)inline half2 asc_atomic_cas(half2 *address, half2 compare, half2 val)inline bfloat16x2_t asc_atomic_cas(bfloat16x2_t *address, bfloat16x2_t compare, bfloat16x2_t val)参数说明表1参数说明参数名输入/输出描述address输出Unified Buffer或Global Memory的地址。compare输入源操作数做比较的值。val输入源操作数用于赋值的值。不同数据类型支持的内存范围说明如下表2不同数据类型支持的内存范围参数数据类型支持的内存空间int32_t、uint32_t、float、half2、bfloat16x2_tUnified Buffer、Global Memoryint64_t、uint64_tGlobal Memory返回值说明Unified Buffer或Global Memory上的初始数据。约束说明原子操作保证对同一地址的读改写过程具有原子性但不保证多个线程之间的执行顺序。使用asc_atomic_cas实现抢占逻辑时可保证最多一个线程抢占成功但不保证固定由哪个线程抢占成功。需要包含的头文件使用除half2、bfloat16x2_t类型之外的接口需要包含simt_api/device_atomic_functions.h头文件使用half2类型接口需要包含simt_api/asc_fp16.h头文件使用bfloat16x2_t类型接口需要包含simt_api/asc_bf16.h头文件。#include simt_api/device_atomic_functions.h#include simt_api/asc_fp16.h#include simt_api/asc_bf16.h调用示例完整样例请参考InsertHashTable算子样例。简单示例场景为多个线程尝试抢占同一个任务任务初始拥有者ID为0。使用asc_atomic_cas接口实现只有一个线程抢占成功其它线程读到非0后抢占失败。输入输出参数说明如下名称说明worker_ids每个元素表示一个工作者ID。ownerGlobal Memory中的任务拥有者0表示无人占用。claim_result保存每个线程是否抢占成功。n参与抢占的线程数。核心代码实现如下SIMT编程场景__global__ __launch_bounds__(256) void claim_task(uint32_t *owner, uint32_t *claim_result, uint32_t *worker_ids, uint32_t n) { uint32_t idx blockIdx.x * blockDim.x threadIdx.x; if (idx n) { return; } uint32_t old_owner asc_atomic_cas(owner, 0U, worker_ids[idx]); claim_result[idx] (old_owner 0U) ? 1U : 0U; }SIMD与SIMT混合编程场景SIMD与SIMT混合编程场景需要显式使用地址空间限定符表示地址空间__gm__表示Global Memory内存空间__ubuf__表示Unified Buffer内存空间。__simt_vf__ __launch_bounds__(1024) inline void claim_task(__gm__ uint32_t *owner, __gm__ uint32_t *claim_result, __gm__ uint32_t *worker_ids, uint32_t n) { uint32_t idx blockIdx.x * blockDim.x threadIdx.x; if (idx n) { return; } uint32_t old_owner asc_atomic_cas(owner, 0U, worker_ids[idx]); claim_result[idx] (old_owner 0U) ? 1U : 0U; }输出结果示例如下worker_ids: 101, 102, 103 owner before: 0 owner after: 101/102/103中的一个 // 表明只有一个线程抢占成功 claim_result: 仅一个元素为1【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考