
环境准备【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge进行开发之前需要先搭建相应环境包括安装软件包以及设置环境变量等本章节给出详细介绍。安装驱动固件与CANN软件包准备带有AI处理器的硬件环境参见《CANN 软件安装》完成环境搭建并确保已安装CANN Toolkit开发套件包和ops算子包针对8.5.0及之后版本编译Graph为离线模型时必须安装与目标AI处理器相匹配的ops算子包否则会导致编译失败安装完成后“${INSTALL_DIR}/opp/built-in/op_graph/inc”下提供了CANN算子原型定义用于通过算子原型构建Graph。“${INSTALL_DIR}/include/graph”下提供了Graph构建接口。“${INSTALL_DIR}/include/ge”下提供了Graph运行接口。“${INSTALL_DIR}/arch-linux/devlib”下为相关依赖库。_arch_为操作系统架构。其中${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例安装后文件默认存储路径为/usr/local/Ascend/cann。设置环境变量必选环境变量安装CANN软件后使用CANN运行用户进行编译、运行时需要以CANN运行用户登录环境执行如下环境变量source /usr/local/Ascend/cann/set_env.sh其中/usr/local/Ascend/为root用户的默认安装路径请根据实际情况进行替换。可选环境变量若开发者期望程序编译运行过程中产生的文件存储到统一目录可通过环境变量ASCEND_CACHE_PATH与ASCEND_WORK_PATH分别设置共享文件的存储路径与进程独享文件的存储路径。export ASCEND_CACHE_PATH/repo/task001/cache export ASCEND_WORK_PATH/repo/task001/172.16.1.12_01_03关于环境变量ASCEND_CACHE_PATH与ASCEND_WORK_PATH的使用约束以及落盘文件说明可参见《环境变量参考》。[!NOTE]说明使用export方式设置环境变量后环境变量只在当前窗口有效用户可以按需将以上命令写入环境变量配置文件如.bashrc文件。配置可选环境变量前请使用env命令查询ASCEND_CACHE_PATH与ASCEND_WORK_PATH环境变量是否已存在建议系统各功能使用统一的规划路径。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考