CANN/ge pyatc模块API文档

pyatc

【免费下载链接】ge GE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。 项目地址: https://gitcode.com/cann/ge

产品支持情况

模块导入

# 命令行方式
python -m ge.pyatc [ATC 参数...]

# Python 代码方式
from ge.pyatc import main

功能说明

pyatc 模块提供与 atc（Ascend Tensor Compiler）命令行工具等价的 Python 入口，便于用户在指定 Python 解释器的进程内执行 ATC 编译命令。

该模块的核心用途是解决 ATC 进程内需要使用特定 Python 解释器的场景，例如 Python Pass 插件的加载和执行。通过 pyatc，用户可以确保 ATC 使用当前 Python 环境而非系统默认 Python。

函数原型

main

def main(cmdline_argv0=None, args=None) -> None

ATC 命令行主入口函数。将参数编码后调用底层 C++ ATC 主函数执行编译，以返回值作为退出码退出进程。

参数说明

main

返回值说明

main 函数无返回值。执行完成后以底层 ATC 返回码调用 sys.exit() 退出进程。

约束说明

• main 函数会调用 sys.exit() 终止进程，不适合在需要继续执行后续逻辑的场景中使用。
• ATC 命令行参数与 atc 命令行工具一致，具体参数说明请参考 ATC 相关文档。
• 该模块需要 CANN 环境已正确安装和配置。

使用示例

# 命令行方式，等价于 atc 命令（仅示例, atc命令完整合法性不做保证）
python -m ge.pyatc --model=model.onnx --soc_version=Ascend910B1 --output=model
# 或者
pyatc --model=model.onnx --soc_version=Ascend910B1 --output=model


# 带 Pass 路径的场景（仅示例, atc命令完整合法性不做保证）
export ASCEND_GE_PY_PASS_PATH=/path/to/my_pass.py
python -m ge.pyatc --model=model.onnx --soc_version=Ascend910B1 --output=model
# 或者
pyatc --model=model.onnx --soc_version=Ascend910B1 --output=model

【免费下载链接】ge GE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。 项目地址: https://gitcode.com/cann/ge