5G|安谋科技“周易”NPU软件开源项目上线,适配100多种AI算法

5G|安谋科技“周易”NPU软件开源项目上线,适配100多种AI算法

万物智联时代 , NPU成为AI 算力需求“刚需” 。 身为算法攻城狮的你 , 是否还在为上层软件应用、算法开发的一系列难题“头秃”不已?市面上针对AI芯片推理侧的解决方案纷繁复杂 , 如何选择最适合自身硬件的软件工具?针对占据大部分工作量的“算法移植” , 如何找到合适的工具以规避“重复造轮”.....
针对上述开发者在NPU研发上所遇到的共性问题 , 安谋科技近日发起“周易”NPU软件开源计划 , 通过开放源码 , 来满足客户更自主、更灵活的算法移植需求 , 携手更多开发者以及合作伙伴共建国内NPU产业生态 。 “周易”NPU是由安谋科技自研的一款面向人工智能的专用处理器 , 在物联网、智能终端、汽车等市场均有实际落地 , 已经形成一套完整的工具链及技术服务 , 可适配100多种算法 。
在“周易”NPU软件开源计划下 , 安谋科技率先对外开放NPU中间表示层规范、模型解析器、模型优化器、驱动等 , 并提供免费的软件工具链 , 包括软件模拟器、调试器、C编译器 。 目前 , 安谋科技已开源其“周易”NPU软件工具Compass的前端 , 并在开源计划的第一阶段开放以下资源:

  • Compass解析器——解析器源代码和中间层表示规范;
  • NPU Linux驱动——更易在现有SoC上部署 , 并符合GPLv2协议;
  • Compass集成——提供“周易”NPU网络构造工具端到端验证环境;
  • 模型仓库——已验证的开源NN模型 , 便于测试和快速上手 。
其中 , Compass解析器的主要作用是将多种框架的模型转换成“周易”NPU的中间表示 , 开发者可以基于源码进行修改以适配更多神经网络模型 。 除了调试、验证解析器本身功能之外 , 开发者还可以在极术社区上免费获取软件工具链 , 进行算法模型端到端的调试和验证 。 如下图所示 , Compass解析器不仅支持基于软件仿真器的调试和结果验证 , 还可以部署到内嵌“周易”NPU的芯片上进行测试和性能优化 。

安谋科技已分别在代码托管平台Gitee、GitHub上建立该项目的开源库 , 开发者可以方便地在这些平台上获取资源 。 据悉 , 这只是“周易”NPU软件开源计划的第一步 , 安谋科技后续还将逐步开放更多资源 , 例如模型优化器、模型量化、算子实现等源代码 。
【5G|安谋科技“周易”NPU软件开源项目上线,适配100多种AI算法】截止目前 , “周易”NPU软件开源计划已吸引第一批合作伙伴“入驻” , 并收获入驻伙伴的集体点赞 , 其中不乏来自AIoT、智能汽车、智能操作系统等领域的明星企业 。 这些合作伙伴均表示将基于该计划与安谋科技继续深化合作 , 加速构建中国智能计算生态“朋友圈” 。