ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

CANN/ge ATC工具模型信息显示参数说明

CANN/ge ATC工具模型信息显示参数说明 --display_model_info【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况全量芯片支持IPV350不支持功能说明编译原始框架网络模型时查询模型占用的关键资源信息、编译与运行环境等信息查询出的信息直接在屏幕打印显示。参数取值参数值0默认值关闭查询功能。1打开查询功能。参数值约束该参数不支持单算子描述文件转离线模型时信息的查看即不支持与--singleop参数同时使用。推荐配置及收益无。示例下面示例以TensorFlow框架网络模型为例进行说明atc --model$HOME/module/resnet50_tensorflow.pb --framework3 --output$HOME/module/out/tf_resnet50 --soc_versionsoc_version --display_model_info1 ...命令执行完毕屏幕会打印类似如下信息 Display Model Info start # 模型转换使用的atc命令 Original Atc command line: ${INSTALL_DIR}/bin/atc.bin --model$HOME/module/resnet50_tensorflow.pb --framework3 --output$HOME/module/out/tf_resnet50 --soc_versionsoc_version --display_model_info1 # ATC软件版本信息、soc_version版本信息、原始框架信息 system info: atc_version[xxx], soc_version[xxx], framework_type[xxx]. # 运行时的占用内存、权重大小、逻辑stream数目、event数目 resource info: memory_size[xxx B], weight_size[xxx B], stream_num[xxx], event_num[xxx]. # 离线模型文件中各分区大小、包括ModelDef、权重、tbe_kernels、task_info、so占用的大小等 om info: modeldef_size[xxx B], weight_data_size[xxx B], tbe_kernels_size[xxx B], cust_aicpu_kernel_store_size[xxx B], task_info_size[xxx B], so_store_size[xxx B]. Display Model Info end 依赖约束无。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表