
后续版本废弃配置【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/geOP_SELECT_IMPL_MODE该参数功能已停止演进后续版本会废弃。AI处理器部分内置算子有高精度和高性能实现方式用户可以通过该参数配置模型编译时算子选择哪种实现方式。高精度是指在float16输入场景通过泰勒展开/牛顿迭代等手段进一步提升算子的精度高性能是指在float16输入的情况下不影响网络精度前提下的最优性能实现。参数取值high_precision表示算子采用高精度实现模式。该选项采用系统内置的配置文件设置算子实现模式内置配置文件路径为${INSTALL_DIR}/opp/built-in/op_impl/ai_core/tbe/impl_mode/high_precision.ini。为保持兼容该参数仅对high_precision.ini文件中算子列表生效通过该列表可以控制算子生效的范围并保证之前版本的网络模型不受影响。high_performance默认值表示算子采用高性能实现模式。该选项采用系统内置的配置文件设置算子实现模式内置配置文件路径为${INSTALL_DIR}/opp/built-in/op_impl/ai_core/tbe/impl_mode/high_performance.ini。为保持兼容该参数仅对high_performance.ini文件中算子列表生效通过该列表可以控制算子生效的范围并保证之前版本的网络模型不受影响。high_precision_for_all表示算子采用高精度实现模式。该选项采用系统内置的配置文件设置算子实现模式内置配置文件路径为${INSTALL_DIR}/opp/built-in/op_impl/ai_core/tbe/impl_mode/high_precision_for_all.ini该文件中列表后续可能会跟随版本更新。该实现模式不保证兼容如果后续新的软件包中有算子新增了实现模式即配置文件中新增了某个算子的实现模式之前版本使用high_precision_for_all的网络模型在新版本上性能可能会下降。high_performance_for_all表示算子采用高性能实现模式。该选项采用系统内置的配置文件设置算子实现模式内置配置文件路径为${INSTALL_DIR}/opp/built-in/op_impl/ai_core/tbe/impl_mode/high_performance_for_all.ini该文件中列表后续可能会跟随版本更新。该实现模式不保证兼容如果后续新的软件包中有算子新增了实现模式即配置文件中新增了某个算子的实现模式之前版本使用high_performance_for_all的网络模型在新版本上精度可能会下降。上述实现模式根据算子的dtype进行区分。${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例安装后文件默认存储路径为/usr/local/Ascend/cann。**参数默认值**high_performance配置示例{ge::ir_option::OP_SELECT_IMPL_MODE, high_performance}OPTYPELIST_FOR_IMPLMODE该参数功能已停止演进后续版本会废弃请勿使用。设置optype列表中算子的实现模式。参数值约束列表中的算子使用OP_SELECT_IMPL_MODE参数指定的模式当前仅支持指定为high_precision、high_performance两种模式多个算子使用英文逗号进行分隔。该参数需要与OP_SELECT_IMPL_MODE参数配合使用且仅对指定的算子生效不指定的算子按照默认实现方式选择。例如OP_SELECT_IMPL_MODE配置为high_precisionOPTYPELIST_FOR_IMPLMODE配置为Pooling、SoftmaxV2。表示对Pooling、SoftmaxV2算子使用统一的高精度模式未指定算子使用算子的默认实现方式。配置示例{ge::ir_option::OPTYPELIST_FOR_IMPLMODE, Pooling,SoftmaxV2}【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考