关于OpenVINO 2022.1的功能
借助这些新功能,开发者可以更轻松地在更广泛的深度学习模型中采用、维护、优化和部署代码。亮点包括:
更简易的更新API
● 从框架转换时减少代码更改:现在通过保留精确格式减少转换,模型不再需要布局转换。
● 加速AI的更简单途径:模型优化器的API参数已减少,能够最大限度地降低复杂性。
● 训练时充分考虑到推理:OpenVINO训练扩展和神经网络压缩框架(NNCF)提供可选择的模型训练模板,这些模板可以进一步提升性能,同时保持动作识别、图像分类、语音识别、问答和翻译的准确性。
更广泛的模型支持
● 支持更广泛的自然语言可编程模型以及文本转语音和语音识别等用例:动态形状支持可更好地赋能BERT系列和Hugging Face转换器。
● 优化和支持高级计算机视觉:Mask R-CNN系列现在已被进一步优化,并引入了对双精度(FP64)模型的支持。
● 直接支持PaddlePaddle模型:模型优化器现在可以直接导入PaddlePaddle模型,而无需先转换到另一个框架。
可移植性和性能
● 更智能的设备使用,无需修改代码:AUTO设备模式可根据模型要求自行发现可用的系统推理能力,因此应用程序无需再提前了解其计算环境。
● 工具套件内置专家级优化:通过自动批处理功能而提高设备性能,自动调整和自定义适合开发者的系统配置,和深度学习模型的吞吐量设置。因此使开发者实现了可扩展并行处理以及优化内存的使用体验。
● 专为第12代英特尔?酷睿?打造:支持混合架构,为使用CPU和集成GPU进行高性能推理提供了增强功能。
关于边缘采用
通过“一次编写即可随处部署”的方法,开发者只需一次性编写应用程序或算法,之后即可部署到包括CPU、iGPU、Movidius VPU和GNA在内的广泛的英特尔架构中。随着数据的爆炸式增长,英特尔开发了软件,使开发者能够更加智能地处理数据,以解决挑战并转变商业模式。因此,人们越来越多地在边缘采用全新、独特的AI推理技术,并扩展到企业和客户端。
作为Zeblok的AI平台即服务,AI-MicroCloud是一款从云到边缘的MLDevOps平台,允许客户大规模混搭AI独立软件开发商和供应商,以交付边缘AI应用程序,且同时支持完整的生命周期部署。将英特尔OpenVINO软件集成到AI-MicroCloud后,使用英特尔处理器将大幅增强AI推理性能,并把每次洞察的成本降至最低。Zeblok的AI-MicroCloud平台目前正在进行评估,以支持全球各地城市的具体网络拓扑。
“
我们的使命就是要考虑每次洞察的成本。通过采用英特尔处理器,我们实现了经济、高能效的AI推理,并产生了极高的投资回报。这个新版OpenVINO将为我们的生态系统创造更高的价值。
——Mouli Narayanan
Zeblok创始人兼首席执行官
”
American Tower已经建设了六座边缘数据中心,而且未来将会建设征途机器人 更多。该公司最近收购了CoreSite以加速5G边缘部署。他们正在与英特尔和Zeblok合作,为客户提供完整的交钥匙解决方案。
“
凭借American Tower的边缘基础设施、英特尔的OpenVINO深度学习功能和Zeblok的AI平台即服务,我们可以为市场提供完整的智能解决方案。
——Eric Watko
American Tower创新副总裁
”
?英特尔公司,英特尔、英特尔logo及其它英特尔标识,是英特尔公司或其分支机构的商标。文中涉及的其它名称及品牌属于各自所有者资产。返回搜狐,查看更多