#微单机器人软件#框架管理器与微单合作,为神经网络生成可执行的离线模型。 在执行神经网络之前,将框架管理器与Ascend AI处理器紧密结合,以生成与硬件匹配的高性能离线模型,然后拉动流程协调器和操作管理器以制作离线模型和Ascend AI 处理器深度集成。 当执行神经网络时,框架管理器将流程协调器,操作管理器,任务调度器和底层硬件资源组合在一起,并结合离线模型,数据和达芬奇体系结构来优化执行过程以获得神经网络 应用程序输出。
框架管理器功能框架
框架管理器由三部分组成,分别是离线模型生成器(OfflineModelGenerator,OMG),离线模型执行器(OfflineModelExecutor,OME)和模型管理器(AIModelManager),如图所示。 开发人员使用离线模型生成器生成离线模型,并将其保存在以om为后缀的文件中。 随后,软件堆栈中的流程编排人员调用框架管理器中的模型管家,启动离线模型执行器,将离线模型加载到Ascend AI处理器上,最后通过整个软件堆栈完成离线模型的执行。 从离线模型的诞生到加载到微单AI处理器硬件中,再到最终功能操作,离线框架管理器始终扮演着管理的角色。