亚马逊云科技的Graviton3为什么只有64核,官方回应来了

本文为re:Invent 2021亮点解读的第一部分,关于自研Graviton的部分,后续还有关于机器学习和关于存储的部分,敬请关注后续。
正文:
自从亚马逊云科技(以下简称AWS)发布自研的ARM处理器以及ARM云主机以来,各家云服务商在自研芯片的道路上越走越远。
2021年,云服务商内卷的越来越激烈了,作为云服务商内卷运动的发起者,AWS在2021年年底又介绍了新一款ARM处理器——Amazon Graviton 3。
只不过,Graviton 3沿用了64核心的配置,而市场上已经有云服务商做出了128核的Arm芯片,背后究竟有什么样的考虑呢,本文将分享亚马逊云科技大中华区产品部计算与存储总监周舸的正式回应。
时隔2年,Graviton 3带来哪些提升
亚马逊云科技的Graviton3为什么只有64核,官方回应来了
文章插图
【Graviton 3 VS. Graviton 2】
AWS官方新闻宣称,Graviton 3比Graviton 2快了25%,与科学计算和媒体编码有关的浮点运算性能翻了1倍,加密工作负载运算速度提升高达2倍,由于支持bfloat16,所以,机器学习推理运算能力提升了3倍。
亚马逊云科技的Graviton3为什么只有64核,官方回应来了
文章插图
【图源:JeffBarr推特】
目前,Graviton 3公开的信息比较少,凑巧在AWS首席布道师Jeff Bar的推特里发现了一张开盖的Graviton 3的图片。图中显示,Graviton 3采用的是时下最流行的Chiplet设计和先进的封装技术,这为I/O提升埋下了伏笔。
亚马逊云科技的Graviton3为什么只有64核,官方回应来了
文章插图
【图源:semianalysis.com,作者:Dylan Patel】
另外一张网传的图片显示Graviton 3采用了PCIe 5.0的I/O连接。DDR 5加PCIe 5.0,IO规格与最新的x86系列CPU对齐了。按理说,后者距离上市应该还有几个月时间,Graviton 3抢先一步了。
此外,AWS还宣称,Graviton 3的功耗最多可降低60%,不清楚是跟x86服务器做对比的还是跟此前的哪款服务器做对比,总之,AWS有资格获得一枚绿色节能小能手勋章。
亚马逊云科技的Graviton3为什么只有64核,官方回应来了
文章插图
【Graviton3的提升】
在面向中国媒体的沟通会上,亚马逊云科技大中华区产品部总经理顾凡大谈亚马逊云通过技术创新(比如Graviton通用芯片和Trainium AI芯片),通过具体行动在节能减排上所取得的成绩(比如大量使用清洁可再生能源),让人们看到上云对于节能减排的意义,多买一台云服务器可能比多种一棵树还环保。
亚马逊云科技的Graviton3为什么只有64核,官方回应来了
文章插图
【顾凡:将工作负载迁移到AWS,能节省高达80%的能耗】
AWS副总裁Peter DeSantis解释了提升Graviton核心效能的一个重要因素,那就是让核心变得更宽(Make the core wider),比如,把Graviton3把每个核心在每个时钟周期执行的指令数量从5个提升到8个,总之,就是让每个时钟周期能做更多事儿。
AWS还宣布Graviton 3芯片将用于EC2 C7g实例,新的服务器将采用了新的DDR5内存,与此前Graviton 2采用的DDR 4内存相比,DDR 5的内存带宽提升50%,有利于提高科学计算等内存密集型应用的性能表现。
亚马逊云科技的Graviton3为什么只有64核,官方回应来了
文章插图
【采用Graviton3的C7g实例】
如上图,C7g实例所采用的服务器硬件采用了三路设计,Graviton2的服务器只有2路,计算密度得以大幅提升。笔者所见的单路双路和四路会多一些,三路相对少一些。
另外,网传图片显示Graviton 3使用了大约550亿个晶体管,而大会上,AWS副总裁Peter DeSantis展示的PPT则显示有500亿晶体管,这年头,上下50亿晶体管都是误差范围了?