尧图网站建设 
术语【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge表 1术语表|术语|含义| |--|--| |Ascend IR|Ascend Intermediate Representation昇腾AI处理器专用的、用于表达计算流程的抽象数据结构。在本文档中若无特殊说明IR默认指代Ascend IR。| |Block|Block在不同场景下具有多种含义通常情况下指AI Core的逻辑核。典型场景有AI Core逻辑核一个Block表示一个AI Core的逻辑核其BlockID是以0为起始的逻辑编号。DataBlock一个DataBlock表示一条NPU矢量计算指令处理的数据单元大小通常为32字节一条指令可同时处理多个DataBlock。基本块表示一次计算需要的典型数据块大小。| |Broadcast|广播一种张量操作机制。通过广播较小的张量可以自动扩展以匹配较大的张量的形状。| |Device|Device指安装了昇腾AI处理器的硬件设备利用PCIe接口与主机Host侧连接为Host提供神经网络计算能力。若存在多个Device多个Device之间的内存资源不能共享。| |Host|指与设备端Device相连接的X86服务器、ARM服务器会利用Device提供的NNNeural-Network 计算能力完成业务。| |Global Memory/GM|设备端的主内存AI Core的外部存储用于存储大规模数据但需要优化访问模式以提升性能。| |Kernel|核函数是Device设备上执行的并行函数。| |MTE|Memory Transfer EngineAI Core的数据传递引擎| |OP|算子Operator简称OP是深度学习算法中执行特定数学运算或操作的基础单元例如激活函数如ReLU、卷积Conv、池化Pooling以及归一化如Softmax。通过组合这些算子可以构建神经网络模型。| |Tiling|Tiling指数据的切分和分块。计算数据量较大时需要将数据进行多核切分、每个核也需要分块多次计算。| |TilingData|TilingData指数据切分和分块的相关参数如每次搬运的块大小、循环次数。鉴于设备端Scalar计算能力限制一般Tiling参数在Host侧计算完成然后传输到设备侧供Kernel函数使用。| |TilingFunc|算子工程提供的在Host侧计算Tiling的默认函数。| |Unified Buffer/UB|AI Core内部存储单元主要用于矢量计算与逻辑内存AscendC::TPosition::VECIN、AscendC::TPosition::VECOUT、AscendC::TPosition::VECCALC相对应。|【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 CANN/ge图开发术语表
术语【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge表 1术语表|术语|含义| |--|--| |Ascend IR|Ascend Intermediate Representation昇腾AI处理器专用的、用于表达计算流程的抽象数据结构。在本文档中若无特殊说明IR默认指代Ascend IR。| |Block|Block在不同场景下具有多种含义通常情况下指AI Core的逻辑核。典型场景有AI Core逻辑核一个Block表示一个AI Core的逻辑核其BlockID是以0为起始的逻辑编号。DataBlock一个DataBlock表示一条NPU矢量计算指令处理的数据单元大小通常为32字节一条指令可同时处理多个DataBlock。基本块表示一次计算需要的典型数据块大小。| |Broadcast|广播一种张量操作机制。通过广播较小的张量可以自动扩展以匹配较大的张量的形状。| |Device|Device指安装了昇腾AI处理器的硬件设备利用PCIe接口与主机Host侧连接为Host提供神经网络计算能力。若存在多个Device多个Device之间的内存资源不能共享。| |Host|指与设备端Device相连接的X86服务器、ARM服务器会利用Device提供的NNNeural-Network 计算能力完成业务。| |Global Memory/GM|设备端的主内存AI Core的外部存储用于存储大规模数据但需要优化访问模式以提升性能。| |Kernel|核函数是Device设备上执行的并行函数。| |MTE|Memory Transfer EngineAI Core的数据传递引擎| |OP|算子Operator简称OP是深度学习算法中执行特定数学运算或操作的基础单元例如激活函数如ReLU、卷积Conv、池化Pooling以及归一化如Softmax。通过组合这些算子可以构建神经网络模型。| |Tiling|Tiling指数据的切分和分块。计算数据量较大时需要将数据进行多核切分、每个核也需要分块多次计算。| |TilingData|TilingData指数据切分和分块的相关参数如每次搬运的块大小、循环次数。鉴于设备端Scalar计算能力限制一般Tiling参数在Host侧计算完成然后传输到设备侧供Kernel函数使用。| |TilingFunc|算子工程提供的在Host侧计算Tiling的默认函数。| |Unified Buffer/UB|AI Core内部存储单元主要用于矢量计算与逻辑内存AscendC::TPosition::VECIN、AscendC::TPosition::VECOUT、AscendC::TPosition::VECCALC相对应。|【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考