ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

CANN/ge Python Pass示例

CANN/ge Python Pass示例 Python Pass[v1]【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge功能描述本目录提供两个纯 Python 的PatternFusionPasssamplesrc/test_python_pattern_pass.pysrc/test_python_pattern_pass_cpp_equivalent.py两个 sample 的定位不同test_python_pattern_pass.py演示 Python V1 的PatternMatcherConfigBuilder.enable_const_value_match()通过 strict const-value-match 直接把Add(x, 0.0f)前置到 matcher 阶段当前ConstantMatcher::IsMatch的值匹配是严格二进制匹配不带浮点容差也不做跨 dtype 归一化因此它更适合作为 matcher_config 示例而不是 C sample 的完全等价版本test_python_pattern_pass_cpp_equivalent.py主逻辑对齐 C pass 样例patterns()只描述Data Const拓扑meet_requirements()中再显式读取匹配到的Const.value按 C sample 同样的规则判断零值当前支持与 C sample 一致的DT_FLOAT、DT_DOUBLE、DT_INT32环境要求临时要求run 包编译时使用的 Python 版本需要与执行 sample 的 Python 版本保持一致CANN 软件包安装请参考 环境准备环境变量设置请参考 C 样例 README 的程序编译-配置环境变量已安装图编译流程相关 Python 依赖attrs、decorator、sympy、numpy、psutil、scipyrun 包已包含 GE Python 运行时所需的ge_pywheel本节不需要再单独安装ge_py-*.whl。使用方式设置 Python pass 插件路径export ASCEND_GE_PY_PASS_PATH$(pwd)/src/test_python_pattern_pass.py如果需要运行与 C 主逻辑对齐的版本可改为export ASCEND_GE_PY_PASS_PATH$(pwd)/src/test_python_pattern_pass_cpp_equivalent.py复用 C pass 样例 README 中的 ATC 或在线推理步骤执行模型编译。说明这两个 sample 都不是独立执行脚本直接运行python src/test_python_pattern_pass.py或python src/test_python_pattern_pass_cpp_equivalent.py不会触发 pass 执行预期输出会在 GE 编译流程真正加载该 Python pass 后打印预期日志运行成功后日志中会出现类似输出[PythonAddZeroPass] matchedadd_zero_pattern capturedinput_0:0 [PythonAddZeroPassCppEquivalent] matchedadd_zero_pattern_cpp_equivalent capturedinput_0:0 const_dtypeDT_FLOAT zeroTrueConda 环境示例Python 3.11如果本机没有现成的匹配环境可以参考下面的方式创建conda create -n ge-pass-py311 python3.11 -y conda activate ge-pass-py311 python -m pip install --upgrade pip python -m pip install attrs decorator sympy numpy psutil scipy创建环境后请确认该环境中的 Python 版本与 run 包编译时使用的 Python 版本一致再按 C 样例 README 的程序编译-配置环境变量 完成环境变量设置最后按上文设置ASCEND_GE_PY_PASS_PATH并复用 C sample 的运行步骤【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表