ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

CANN/GE获取模型输出维度

CANN/GE获取模型输出维度 aclmdlGetCurOutputDims【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√功能说明根据模型描述信息获取指定的模型输出tensor的实际维度信息。函数原型aclError aclmdlGetCurOutputDims(const aclmdlDesc *modelDesc, size_t index, aclmdlIODims *dims)参数说明参数名输入/输出说明modelDesc输入aclmdlDesc类型的指针。需提前调用aclmdlCreateDesc接口创建aclmdlDesc类型的数据。index输入指定获取第几个输出的Dimsindex值从0开始。dims输出输出实际维度信息的指针。若tensor的name长度大于127则在输出的dims.name时系统会将tensor的name转换为“acl_modelId_${id}_output_${index}_${随机字符串}”格式如果转换后的tensor name与模型中已有的tensor name冲突则会在转换后的name尾部增加“_${随机字符串}”否则不会增加随机字符串并在转换后的name与原name之间建立映射关系用户可调用aclmdlGetTensorRealName接口传入转换后的name获取原name若向接口传入原name则获取的还是原name若tensor的name长度小于或等于127则在输出的dims.name时按tensor的name输出。返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明当前仅支持通过本接口获取以下场景中的模型输出tensor的维度信息通过模型转换设置多档Batch size或分辨率或维度值实现动态Batch或动态分辨率或动态维度ND格式时如果用户已调用aclmdlSetDynamicBatchSize设置Batch、或调用aclmdlSetDynamicHWSize接口设置输入图片的宽高、或调用aclmdlSetInputDynamicDims接口设置某动态维度的值则可通过该接口获取指定模型输出tensor的实际维度信息如果用户未调用aclmdlSetDynamicBatchSize接口、或aclmdlSetDynamicHWSize接口、或aclmdlSetInputDynamicDims接口则通过该接口可获取最大档的维度信息。固定Shape场景下通过该接口获取指定的模型输出tensor的维度信息。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表