正如咱们在 7 月份所说的那样-kaiyun欧洲杯app(官方)官方网站·IOS/安卓通用版/手机APP下载

发布日期:2024-09-20 10:07    点击次数:189

正如咱们在 7 月份所说的那样-kaiyun欧洲杯app(官方)官方网站·IOS/安卓通用版/手机APP下载

(原标题:AWS的最新芯片,太强了)

要是您但愿不错常常碰面,接待标星储藏哦~

起首:内容编译自nextplatform,谢谢。

凭借其自主研发的 Graviton 4 Arm 处事器处分器,亚马逊相聚处事已将一款可与 AMD X86 CPU、Ampere Computing 和 Nvidia Arm CPU 等总共顶级居品相比好意思的 CPU 插足到该畛域,而况它正在鼓动价钱/性能的耕作,从而鼓动亚马逊各个业务部门相称 AWS 上的 IT 基础设施租出客户对其的接受。

现时,Graviton 4 处分器的内存得到了耕作,这反过来又使它们梗概承担更多受内存容量和内存带宽摒弃的任务。

Graviton 4 处分器于 2023 年 11 月推出,基于Arm Ltd 的“Demeter” Neoverse V2 中枢。对于 Graviton 4 处分器,咱们还有许多不了解的地点,如本文顶部的特质图片所示,咱们试图将已知的信息凑合起来,填补空缺,以更全面地了解这款 Arm CPU 与其前代居品以及数据中心中竞争敌手 X86 和 Arm 芯片比较如何。看一看:

如您所见,AWS 的 Annapurna Labs 部门创造了“Nitro”DPU 以及 Graviton CPU、“Trainium”AI 磨练 XPU 和“Inferentia”AI 推理 XPU,在鼓动筹算达到起初进水平与裁减这些芯片价钱并使 AWS 仍能盈利的均衡方面仍是取得了长足的越过。

注:上表中以红色斜体粗体象征的技俩是The Next Platform的意象值。

与上一代 Graviton 3 比较,Graviton 4 芯片领有更快的内核、更好的内核和更多的内核,而且 AWS 初度创建了双插槽 NUMA 内存集群,以使 192 个以 2.8 GHz 运行的内核承担责任负载。起先的 Graviton 4 芯片配备了 1.5 TB 的 DDR5 主内存,运行频率为 5.6 GHz,而 Graviton 3 使用 4.8 GHz DDR5 内存,惟有 8 个内存通谈,而 Graviton 4 有 12 个,后者芯片从这些独特的通谈中获取了 50% 的容量和带宽耕作,并从更快的 DDR5 内存中获取了 16.7 的独特耕作。加起来,每个 Graviton 4 插槽可获取 537.6 GB/秒的带宽,这与任何其他 X86 或 Arm CPU 所能提供的不异好,对于许多卡在 CPU 上、无法蹂躏移植到 GPU 的 HPC 责任负载来说仍是充足了。

Graviton 4 R8g 实例于 7 月初庄重上市,其时咱们对其进行了详备先容。它们涵盖 1 到 96 个 vCPU,每个 Graviton 4 插槽从 8 GB 到 768 GB;每个实例的相聚带宽最高可达 40 Gb/秒,弹性块存储 (EBS) 也最高可推广至每个插槽 30 Gb/秒。

正如咱们在 7 月份所说的那样,咱们以为双插槽 Graviton 4 实例是一个额外情况,因为双插槽机器的相聚带宽惟有 50 Gb/秒,EBS 带宽惟有 40 Gb/秒。此外,莫得实例大小介于 96 到 192 个中枢之间,要是亚马逊基于 Graviton 4 构建的总共物理机器王人使用双插槽主板,那么你就会祈望有这么的实例。或者,也许它仅仅念念在客户跨越 NUMA 碎裂后销售满载的机器。

以下是今天推出的全新 X8g 内存增强型实例与 7 月份推出的现存 R8g 实例的对比情况:

AWS 尚未公布内存增强型 Graviton 4 实例的订价,您知谈,咱们对这类事情很不厚重。因此,咱们权衡了具有不同内存容量的 Graviton 3 实例(准确地说是基本 R7g 和 M7g Graviton 3s 的双倍增强内存),并计较了内存各异和价钱各异。效果标明,以 4.8 GHz 运行的增量内存每小时每 8 GB 的资本为 0.0031875 好意思元。因此,咱们取这个数字,将其耕作了用于 Graviton 4 实例的内存速率的增多(在 5.6 GHz 时性能提高了 16.7%),然后在上表入网算了 X8g 实例的按需租出资本。您不错念念象,独特的内存容量并不是免费的,但咱们以为这是意象 AWS 可能对 X8g 实例收取的用度的合理步调。要是您使用这么的内存订价将 R8g 实例上的内存推广到 X8g 实例的大小(这些机器的总共其他功能王人是沟通的),那么您会发现租用 X8g 实例的价钱比租用 R8g 实例的价钱越过 50.5%。

要是咱们是 AWS,咱们就会这么作念。

自 2018 年 11 月 Graviton 1 初度亮相以来,Graviton 处分器的多样顶级设置如下:

早在 7 月份,咱们就估算了节点中带有土产货闪存的老例 Graviton 4 实例的年度按需租出资本,该资本以粗体红色斜体炫夸。咱们并不是念念示意客户会以这种面目购买这些实例,但咱们如实念念标明这些每小时用度“细目会增多”,正如演员查理·辛 (Charlie Sheen) 曾在庭审中莫名地作证时玩笑说的那样。

在粗体蓝色斜体中,咱们炫夸了咱们为新的顶级 X8g 实例估算的年度按需租出资本。这个念念法是,大内存不是免费的,您必须有使用 X8g 实例的需求。而且,把柄 AWS 的说法,咱们以为许多使用之前的 Graviton 2 和 Graviton 3 实例的客户将厚爱辩论内存增强型 Graviton 4 实例。无法在 Graviton 2 和 Graviton 3 处分器上运行的哄骗法子(某些内存密集型 HPC 哄骗法子和内存分析和数据库)将无法在 Graviton 4 实例上运行。

大内存 Graviton 4 处分器的一个兴致兴致用例是 – 您猜对了 – 由 Annapurna Labs 筹算未来的 Graviton CPU。为了好玩,AWS 首席布谈师(一种公关司理)Jeff Barr在晓示内存增强型 Graviton 4 芯片的博客著作中发布了此图表:

该图表炫夸了在 AWS 为 Graviton 4 软件包筹算 I/O 芯片和计较芯顷然启动的 Graviton 实例数目。脱手基线略低于 2,000 个实例,而况运行平常,逐日和每周的峰值最高可达此基线计较水平的 2 倍。跟着 I/O 芯片和计较芯片的筹算逐渐走向流片,臆造测试和筹算考据变得越来越热烈,基线接近 4,000 个实例同期运行,峰值最高可达 8,000 个,巧合以至高达 11,000 个并发实例(要是您仔细检察此图表)。

如您所见,Graviton 4 I/O 芯片于 2022 年第四季度流片,计较芯片于 2023 年第一季度流片,这是 AWS 深入的一个兴致兴致的信息。

但是,AWS 并未深入 X8g 的独特内存将如何耕作 EDA 性能或减少正在运行的实例数目。

据咱们所知,EDA 骨子上是一种单核、单任务的令东谈主莫名的并行责任负载,因此您在一项任务中插足的中枢数目近似于您不错在可能的筹算空间中测试的场景和设置数目。举例,上头的峰值“代表数十万个中枢同期运行”,Barr 说。此外,据咱们所知,EDA 软件是按中枢授权的,因此领有更快的中枢(Graviton 4 中枢细目获利于 Demeter V2 筹算)意味着您不错更快地完成任务,而每个插槽领有更多核情意味着您不错在每个实例中完成更多任务。这等于您在 EDA 责任上有钱巧合刻的原因。

望望 Graviton 4 实举例何加快 Graviton 6 处分器的筹算将会很兴致兴致。。。也许 AWS 应该就此提供一个案例权衡。咱们很乐意权衡并撰写它。

对于许多使用 Graviton 2 X2gd 实例的 HPC 客户来说,Graviton 4 每个中枢的 L2 缓存是底本的两倍(2 MB 对比 1 MB),内存带宽是底本的 2.6 倍,每个中枢的计较性能提高了 60%。X8g 实例的内存容量和中枢数目亦然底本的 3 倍,EBS 带宽和以太网带宽亦然底本的 2 倍。总共这些王人将匡助芯片筹算师更快地完成更多的 EDA 责任,而况每个责任单元的资本可能会更低。

https://www.nextplatform.com/2024/09/19/aws-boosts-memory-capacity-on-graviton-4-compute/

半导体极品公众号推选

专注半导体畛域更多原创内容

柔柔全国半导体产业动向与趋势

*免责声明:本文由作家原创。著作内容系作家个东谈主不雅点,半导体行业不雅察转载仅为了传达一种不同的不雅点,不代表半导体行业不雅察对该不雅点赞同或扶直,要是有任何异议,接待有关半导体行业不雅察。

今天是《半导体行业不雅察》为您共享的第3891内容,接待柔柔。

『半导体第一垂直媒体』

及时 专科 原创 深度

公众号ID:icbank

可爱咱们的内容就点“在看”共享给小伙伴哦