Intel|Intel第四代至强来袭:AI性能提升10倍、能效提升2.9倍!( 二 )


1、在AI方面,与前一代相比,第四代至强通过内置Intel高级矩阵扩展(IntelAMX)加速器,将PyTorch实时推理和训练性能提升了10倍 。第四代Intel至强还将广泛的AI工作负载的推理和训练性能提升到新的高度 。
Intel|Intel第四代至强来袭:AI性能提升10倍、能效提升2.9倍!
文章图片

比如,Intel至强CPU Max系列在这些功能的基础上还针对自然语言处理进行了扩展,将大型语言模型的处理速度提升多达20倍 。
借助Intel的AI软件套件,开发者可以使用自己选择的AI工具,提高生产力并加快AI开发速度 。该套件可以从工作站进行移植,使其可以在云中扩展,并一直扩展到边缘 。同时,该套件已经针对400多个机器学习和深度学习AI模型进行了验证,涵盖所有商业细分领域最常见的AI应用场景 。
2、第四代至强还内置了Intel动态负载均衡器(DLB),可以根据系统负载的变化而动态地在多个CPU内核上分配网络数据,能提供高效的硬件负载均衡 。
Intel|Intel第四代至强来袭:AI性能提升10倍、能效提升2.9倍!
文章图片

3,第四代至强内置了Intel数据流加速器(DSA),提高了存储、网络和数据密集型工作负载的性能,让数据密集型工作负载操作性能提升1.7倍 。
Intel|Intel第四代至强来袭:AI性能提升10倍、能效提升2.9倍!
文章图片

4、第四代至强还内置了Intel存内分析加速器(IntelIAA),可提高分析性能,能同时把任务从CPU 内核卸载,以加速数据库查询吞吐量和其它工作负载 。借助IAA加速器,第四代至强的数据分析工作负载优化内存占用和吞吐量性能提升了3倍 。
5、第四代至强内置了Intel?数据保护与压缩加速技术(IntelQAT)可以通过卸载加密、解密和数据压缩,将这些任务从处理器内核卸载,从而让系统能够实现降低能耗的目的 。
6、第四代至强内置了Intel密码操作硬件加速功能,大大降低了实施普遍数据加密的影响,并提高了加密密集型工作负载的性能,例如,安全套接字层(SSL)web服务器、5G基础设施和VPN/防火墙 。
Intel|Intel第四代至强来袭:AI性能提升10倍、能效提升2.9倍!
文章图片

作为数据中心计算提供应用隔离的芯片厂商,Intel还拥有自己的Intel软件防护扩展(IntelSGX)技术,在私有云、公有云和从云到端的环境中,为使用中的数据提供硬件加密,以实现当前机密计算领域更小的攻击面 。
此外,Intel还带来了全新的虚拟机隔离技术,IntelTrust Domain Extensions(IntelTDX)也非常适合把现有应用移植到机密环境,该特性将在微软Azure、阿里云、谷歌云和IBM云中首发 。
此外,第四代至强内置的面向vRAN的Intel高级矢量扩展512(IntelAVX-512)能够在相同的功率下把vRAN工作负载的密度提高至前一代的两倍2 。IntelAVX-512还支持两个融合乘加(FMA)单元和其他优化功能,可帮助提升要求严苛的计算工作负载性能 。
需要指出的是,在第代至强的50多个SKU当中,此次新增的IntelAMX、DLB、DSA、IAA、QAT内核,最高阶的版本这四种内核各配备了4个核心,而对于其他的SKU来说,只有AMX内核是属于标配的(核心数最低1个,最高4个),其他内核则有些有配备,有些则没有 。
关于Intel至强CPU Max系列和Intel数据中心GPU Max系列,可参看芯智讯此前文章:首次集成HBM内存,Intel发布Xeon Max CPU!还有全新Max系列GPU
Intel|Intel第四代至强来袭:AI性能提升10倍、能效提升2.9倍!