GeSessionLoadGraph【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√头文件/库文件头文件#include ge/ge_api.h库文件libge_runner.so功能说明只有异步执行Graph场景使用使用指定的Session将指定Graph ID的图绑定到对应Stream上。GeSessionLoadGraph成功后可以使用GeSessionExecuteGraphWithStreamAsync接口执行图。函数原型ge::Status GeSessionLoadGraph(ge::Session session, uint32_t graph_id, const std::mapge::AscendString, ge::AscendString options, void *stream)参数说明参数名输入/输出说明session输入加载图的Session实例。graph_id输入要执行图对应的ID。options输入执行阶段可能用到的options。map表key为参数类型value为参数值描述Graph配置信息。一般情况下可不填与GEInitialize传入的全局options保持一致。key和value类型为AscendString如需单独配置当前Graph的配置信息时可以通过此参数配置支持的配置项请参见options参数说明ge.exec.frozenInputIndexes当前只支持配置该参数。stream输入图执行流。返回值说明参数名类型说明-StatusGE_CLI_SESS_RUN_FAILED执行子图时序列化转换失败。SUCCESS执行子图成功。FAILED执行子图失败。约束说明该接口执行前需要完成CompileGraph流程且需要与GeSessionExecuteGraphWithStreamAsync接口配合使用。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考