资讯详情

Arm的使命是助力应对AI无止尽的能源需求

野生智能(AI)拥有逾越已往一个世纪所产生的所有变更性立异的后劲,它在医疗保健、生产力、教导等畛域为社会带来的好处将超乎咱们的设想。为了运转这些庞杂的AI事情负载,环球数据中央所需的计较量需要以指数级范围举行扩大。然而,这类对计较无止尽的需要也提醒了一个严格的挑衅:数据中央需求重大的电力来驱动AI这一突破性手艺。

现今的数据中央曾经损耗了少量的电力——环球每一年需求460太瓦时(TWh)电力举行支撑,这个数字等同于全部德国的用电量。而AI的鼓起预计将在2030年把该数字进步三倍,意味着将跨越印度这一世界上生齿至多国度的总耗电量。

将来的AI模子将继续变得更大、更智能,在动员对更多计较才能的需要的同时,对电力的需要也会增添,从而成为良性轮回的一部分。而找到下降这些大型数据中央电力需要的要领关于完成社会性打破和兑现AI的许诺相当首要。

换言之,没有电力就无奈完成AI,企业需求从新思索若何应答能效题目的方方面面。

Arm最后的产物便是为应用电池的设置装备摆设而设想的,并推动了挪移德律风的变更。是以,深植于Arm的能效DNA能使业界从新思索应若何构建芯片来餍足AI日趋增进的需要。

在典范的服务器机架中,仅计较芯片就能损耗跨越50%的电力估算。工程团队正在追寻种种能够下降该数字的要领,每一瓦特的缩小都相当首要。

正因为此,环球最大的AI头部云办事提供商们转而接纳Arm手艺来下降功耗。与同行业中的其余产物相比,Arm最新的Arm Neoverse CPU是面向云数据中央,功能最高、最节能的处理器。Neoverse为头部云办事提供商供应了定制芯片的灵活性,以优化其刻薄的事情负载,同时供应当先的功能和能效。每一瓦特的节减都可以用来完成更多的计较。这也恰是为何亚马逊云办事(AWS)、微软、谷歌和甲骨文(Oracle)当初都经由过程Neoverse手艺,处置其通用计较和基于CPU的AI推理和锻炼。Neoverse平台正在成为云数据中央畛域的究竟规范。

从近期的行业内的宣布来看:

与其他同行业产物相比,Amazon Sagemaker的AI推理功能提高了25%,Web使用步伐提高了30%,数据库提高了40%,服从则提升了60%。

与传统架构相比,其功能和能效分手提高了50%和60%,可为基于CPU的AI推理和锻炼、YouTube、谷歌地球等办事供应支撑。

功能凌驾同类产物40%,并为Microsoft Teams等办事供应支撑,与Maia加速器的耦合驱动Azure的端到端AI架构。

与传统同类产物相比,每机架服务器的功能进步2.5倍,能耗下降2.8倍,并用于天生式AI推理模子,诸如择要、大言语模子锻炼的数据的标志化,以及批量推理用例。

明显,Neoverse极大地提升了云端通用计较的功能和能效。另外,分工火伴也发当初加快计较方面,Neoverse也能带来异样的好处。大规模AI锻炼需求怪异的加快计较架构,比方,NVIDIA Grace Blackwell平台(GB200)连系了NVIDIA的Blackwell GPU架构与基于Arm架构的Grace CPU。这类基于Arm手艺的计较架构可完成体系级设想优化,与面向大言语模子的NVIDIA H100 GPU相比,可带来25倍的能耗下降,并将每一个GPU的功能进步30倍。这些优化可以或许带来颠覆性的功能和节能结果,而这一切都得益于Neoverse所带来的前所未有的芯片定制灵活性。

跟着基于Arm架构的安排继续扩充,这些企业将可以节减高达15%的数据中央总能耗。这些巨幅的节减能够用来在沟通的功率范围内驱动额定的AI运算,而不会增添动力担负。换言之,这些节能相当于能够额定运转20亿次ChatGPT查问,驱动四分之一的平常网络搜刮流量,为20%的美国家庭供应照明,或为与哥斯达黎加面积相仿的国度举行供电。这对改良动力损耗和环境可持续性产生了惊人的影响。

Arm CPU正在从根本上推进AI变更,并造福地球。Arm架构是将来AI计较的基石。

锐单商城拥有海量元器件数据手册IC替代型号,打造 电子元器件IC百科大全!

锐单商城 - 一站式电子元器件采购平台