昇腾C矩阵乘工作空间设置
SetWorkspace【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持Kirin X90支持功能说明Iterate计算的异步场景调用本接口申请一块临时空间来缓存计算结果然后调用GetTensorC时会在该临时空间中获取C的矩阵分片。IterateNBatch计算时调用本接口申请一块临时空间来缓存计算结果然后根据同步或异步场景进行其它接口的调用。函数原型建议用户使用GlobalTensor类型传入template class T __aicore__ inline void SetWorkspace(GlobalTensorT addr)template class T __aicore__ inline void SetWorkspace(__gm__ const T* addr, int size)参数说明参数名输入/输出描述addr输入用户传入的GM上的workspace空间GlobalTensor类型。addr输入用户传入的GM上的workspace空间GM地址类型。size输入传入GM地址时需要配合传入元素个数。返回值说明无约束说明当开启MixDualMaster双主模式场景时即模板参数enableMixDualMaster设置为true不支持使用该接口。调用示例REGIST_MATMUL_OBJ(pipe, GetSysWorkSpacePtr(), mm, tiling); mm.SetWorkspace(workspaceGM); //设置异步时使用的临时空间 mm.SetTensorA(gm_a); mm.SetTensorB(gm_b); if (tiling.isBias) { mm.SetBias(biasGlobal); } mm.template Iteratefalse(); for (int i 0; i singleCoreM/baseM * singleCoreN/baseN; i) { mm.template GetTensorCfalse(ub_c); }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考