ARTICLE DETAIL

资讯详情

深耕网站视觉设计与运营推广的一线实战洞察。

CANN/GE获取张量描述API

CANN/GE获取张量描述API aclmdlGetDatasetTensorDesc【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√功能说明如果模型输入或输出的Shape是动态的模型在模型执行之后可以调用本接口从aclmdlDataset类型的数据该类型用于描述模型推理时的输入数据、输出数据中获取指定的输入或者输出的Tensor描述信息。典型场景举例如果模型输入Shape是动态的在模型执行之前调aclmdlSetDatasetTensorDesc设置该输入的tensor描述信息在模型执行之后调用aclmdlGetDatasetTensorDesc接口获取模型动态输出的Tensor描述信息。函数原型aclTensorDesc *aclmdlGetDatasetTensorDesc(const aclmdlDataset *dataset, size_t index)参数说明参数名输入/输出说明dataset输入模型执行的输入或输出数据指针。index输入表示第几个输入或输出的序号。模型存在多个输入、输出时为避免序号出错可以先调用aclmdlGetInputNameByIndex、aclmdlGetOutputNameByIndex接口获取输入、输出的名称根据输入、输出名称所对应的index来设置。返回值说明返回指定输入或输出的tensor描述信息。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表