云端AI芯片落地难题如何破解?( 二 )


前面提到 , AI落地一个巨大的挑战就是软件 。 不过软件是一个很宽泛的概念 , 既需要能够提升AI芯片利用率的编译器、库等 , 也需要算力平台的管理软件 。
随最新推出的云燧智算机一起推出的是燧原科技提供燧池智算平台(CloudBlazerStation) , 包含基础设施层的异构算力调度平台 , 智能运维平台 , 驭算软件栈SDK , 算法服务层的智能算法管理平台以及训推一体化平台 。
云端AI芯片落地难题如何破解?
文章图片
同时 , 面对超大参数量的巨量模型趋势 , 云燧智算机可支持超千亿参数巨量模型的高效、并行训练 , 这主要是得益于云燧智算机计算节点内基于GCU-LARE2.0多芯互联技术提供近1TB/s的互联带宽 , 跨节点互联能力高达600Gb/s , 可实现千卡级大规模集群高速互联 。
云端AI芯片落地难题如何破解?】开箱即用的计算集群确实能够在一定程度降低使用者的门槛 , 但计算集群毕竟是一个复杂的系统 , 最终能在多大程度上促进高性能AI计算的落地 , 还需要用更多的落地项目证明 。
云端AI芯片落地难题如何破解?
文章图片