做AI这么轻松吗？因为百度飞桨技术力又飙升了( 四 ) 机器之心原创作者：杜伟、泽

文章图片
产业级开源模型库的「全与专」，真正满足业务场景需求
开发模型的能力继续增强，对于工业领域内数量更多的非AI专业人士来说，这个门槛还能再降低。
产业级开源模型库是飞桨四大领先技术优势之一，包含大量经过产业实践长期验证的主流模型，并提供面向语义理解、图像分类、目标检测等不同场景的端到端开发套件，满足了企业用户低成本开发和快速集成的需求。目前，飞桨官方支持的产业级开源算法超过400个，支持使用动态图开发视觉、自然语言、语音和推荐等领域的众多模型。
会上，马艳军表示，针对产业实践中的更多真实需求，飞桨产业级开源模型库又新增了一些深受企业开发者喜爱的前沿算法。

文章图片
针对企业用户最高频使用的一部分模型，百度在结合产业实践中痛点问题的基础上进行了从框架到模型的全栈优化，发布并开源了13个产业级PP系列特色模型。至此，飞桨产业级模型库不仅做到了覆盖面全，还要有的放矢，解决企业用户最迫切的业务场景需求。

文章图片
马艳军指出，「PP系列模型能够很好地实现精度和性能的平衡。」比如PP-YOLOv2 ，在数据增强、骨干网络、损失函数等方面提出了13项优化策略，非常好地满足了企业开发者实际业务场景的需求，有效帮助开发者加速业务落地。
飞桨企业版：走好AI应用的最后一公里
模型部署是AI产业实践中的难题，推理部署工具链条是否通畅，一定程度上决定AI应用最后一公里路走得好不好。飞桨企业版一直致力于让模型快速高效地部署到多样化的软硬件环境，实现最优推理效果。
此前进行「一核两翼」AI开发双平台全新升级，一核指的是一个专为AI平台开发者打造的、易被集成的云原生机器学习核心系统PaddleFlow 。两翼分别指的是面向AI应用开发者的零门槛AI开发平台EasyDL和面向AI算法开发者的全功能AI开发平台BML 。两个平台共享了一些核心的功能和模块，包括资源管理、数据管理、模型训练等。
「过去几年， EasyDL和BML两个平台上的模型训练任务量在加速增长，行业分布也非常广，包括互联网、工业、零售等20个行业。 EasyDL和BML已成为应用和落地最广泛的AI开发平台。」百度AI产品研发部总监忻舟在会上介绍道。
虽然应用和落地已经很广泛，但飞桨企业版在模型部署中依然面临一些技术难题，比如推理硬件适配繁琐、模型压缩优化难以及部署集成周期长等。
为了进一步降低企业开发者的应用门槛，飞桨企业版在模型部署方面也迎来了全新升级，让AI应用的最后一公里高效便捷。据忻舟介绍，此次飞桨企业版模型部署的全新升级基于飞桨推理部署工具链，与平台深度融合，打造自动高效的企业级部署功能。

文章图片
飞桨企业版模型部署升级显著提升了推理性能，还能广泛适配推理芯片，大幅提高部署效率。如何做到的呢？要从以下三个方面说起。
?模型压缩上，基于PaddleSlim工具，结合一些前沿的压缩算法，根据不同模型和硬件的特点和压缩级别的要求，设计了多条全自动组合压缩流水线，自动选择最佳压缩路径。对常见的模型，平均精度损失控制在1%内，加速比能达到3-5倍。
?推理和硬件适配上，采用飞桨推理部署工具链中的飞桨推理引擎，如PaddleInference、PaddleLite和Paddle.js ，适配了超过30多款芯片。推理性能也十分出色，在端和边缘设备的Arm芯片上尤为突出。此平台更是为开发者测试并验证了9345种模型芯片的组合，覆盖95%的适配需求。通过平台提供的推理能力，开发者能够节省97%的自行适配开发时间；