CANN/asc-devkit InitBufPool API文档

InitBufPool【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品支持Kirin X90支持Kirin 9030支持功能说明头文件路径为basic_api/kernel_tpipe.h。通过Tpipe::InitBufPool接口可划分出整块资源整块TbufPool资源可以继续通过TBufPool::InitBufPool接口划分成小块资源。资源分配的非共享模式与共享模式非共享模式从Tpipe中划分出一块新的资源池。共享模式从Tpipe划分出的新资源池与其他资源池共享起始地址及长度。函数原型非共享模式template class T __aicore__ inline bool InitBufPool(T bufPool, uint32_t len)共享模式template class T, class U __aicore__ inline bool InitBufPool(T bufPool, uint32_t len, U shareBuf)参数说明表1模板参数说明参数名说明TbufPool参数的类型。UshareBuf参数的类型。表2非共享模式接口参数说明参数名称输入/输出含义bufPool输入新划分的资源池类型为TBufPool。len输入新划分资源池长度单位为字节非32字节对齐会自动向上补齐至32字节对齐。表3共享模式接口参数说明参数名称输入/输出含义bufPool输入新划分的资源池类型为TBufPool。len输入新划分资源池长度单位为字节非32字节对齐会自动向上补齐至32字节对齐。shareBuf输入被复用资源池类型为TBufPool新划分资源池与被复用资源池共享起始地址及长度。约束说明新划分的资源池与被复用资源池的物理内存需要一致两者共享起始地址及长度输入长度需要小于等于被复用资源池长度其他泛用约束参考TBufPool返回值说明无调用示例数据量较大且内存有限时无法一次完成所有数据搬运需要拆分成多个阶段计算每次计算使用其中的一部分数据可以通过TBufPool资源池进行内存地址复用。本例中从Tpipe划分出资源池tbufPool0tbufPool0为src0Gm分配空间后继续分配了资源池tbufPool1指定tbufPool1与tbufPool2复用并分别运用于第一、二轮计算此时tbufPool1及tbufPool2共享起始地址及长度。完整样例链接可以参考tbufpool_management样例。AscendC::TPipe* pipe; AscendC::TBufPoolAscendC::TPosition::VECCALC tbufPool0, tbufPool1, tbufPool2; // srcQue0、srcQue1、srcQue2为VECIN上的TQuedstQue0、dstQue1为VECOUT上的TQue // 从Tpipe划分出资源池tbufPool0 pipe-InitBufPool(tbufPool0, bufSize * 4); // 通过tbufPool0给tbufPool1分配空间并指定tbufPool1与tbufPool2复用同一块空间 tbufPool0.InitBufPool(tbufPool1, bufSize * 2); // 给srcQue0分配空间 tbufPool0.InitBuffer(srcQue0, 1, bufSize * 2); // Total src0 tbufPool0.InitBufPool(tbufPool2, bufSize * 2, tbufPool1); // 通过tbufPool1给srcQue1、dstQue0分配空间 tbufPool1.InitBuffer(srcQue1, 1, bufSize); tbufPool1.InitBuffer(dstQue0, 1, bufSize); CopyIn(); Compute(); CopyOut(); // 切换资源池到tbufPool2并通过tbufPool2给srcQue2、dstQue1分配空间 tbufPool1.Reset(); tbufPool2.InitBuffer(srcQue2, 1, bufSize); tbufPool2.InitBuffer(dstQue1, 1, bufSize); CopyIn1(); Compute1(); CopyOut1(); tbufPool2.Reset(); tbufPool0.Reset(); pipe-Reset();【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考