资讯详情

Rambus通过GDDR7内存控制器IP推动AI 2.0发展

作为 Rambus 行业当先的接口和平安数字 IP 产物组合的最新成员,GDDR7 将为下一波推理海潮中的服务器和客户端供应所需的突破性内存吞吐量。

AI 2.0代表着天生式AI革命性天下的到来。AI 2.0借助大言语模子(LLM)及其衍生模子的伟大增进建立新的多模态内容。多模态意味着能够将文本、图象、语音、音乐、视频等混杂输出到模子中,从而创建出这些以及其余媒体花样的输入,比方依据图象建立3D模子或依据文本提醒建立视频等。

LLM的参数范围已跨越万亿,数据集样本范围也已达到数十亿。锻炼LLM需求伟大的算力,这离不开最新高性能内存解决计划的支撑。

AI 2.0锻炼流程的输入结果是一个推理模子,该模子可根据用户提醒建立新的多模态内容。因为准确性和保真度会跟着模子范围的扩充而进步,是以推理模子的范围也在不息扩充。跟着AI推理变得愈来愈广泛,并从数据中心向边缘和终端挪移,这就促使全部计较畛域需求加倍壮大的处置引擎和量身定制的高性能内存解决计划。

GPU一直是推理引擎的首选,在服务器和台式机等边缘和终端使用中,GPU始终应用的是GDDR6内存。但GDDR6的数据传输速度已达到规范NRZ旌旗灯号的实践极限——24Gbps。为了餍足将来GPU的带宽需要,需求应用新旌旗灯号机制的新一代GDDR。而应用PAM3旌旗灯号的GDDR7内存可将数据传输速度进步至40 Gbps或以上。

作为AI 2.0的首选半导体IP供应商,Rambus供应业界当先的 HBM、PCIe和 CXL控制器 IP,当初更供应业界首个GDDR7IP。Rambus GDDR7控制器为GDDR7存储器的完成供应了性能齐备且拥有高带宽服从的解决计划。它支撑40 Gbps的运转速率,为GDDR7存储器设置装备摆设供应160 GB/s的吞吐量,较业界吞吐量最高的GDDR6控制器(异样来自Rambus)提高了67%。Rambus GDDR7控制器完成了适用于最进步前辈AI加速器、图形和高性能计较(HPC)使用的GDDR内存安排。

Rambus半导体IP总经理Neeraj Paliwal暗示:“ 2.0事情负载对带宽提出了前所未有的高要求,是以供应更高的内存功能变得相当首要。借助咱们开创性的GDDR7控制器IP解决计划,设想职员能够倏地应用最新一代GDDR存储器的上风,完成业界当先的吞吐量。”

IDC内存半导体副总裁Soo-Kyoum Kim暗示:“GDDR7内存的功能较GDDR6大幅晋升。对任何但愿充沛应用GDDR7优化的速度和耽误特点的人来讲, Rambus GDDR7控制器IP将成为首要的对象。”

Rambus GDDR7控制器的首要特色:

• 支撑包孕PAM3和NRZ旌旗灯号在内的所有GDDR7链路性能

• 支撑多种GDDR7设置装备摆设尺寸和速度

• 特地针对种种流量情形举行优化,可完成高效率和低耽误

• 灵巧的AXI接口支撑

• 低功耗支撑(自革新、休眠自革新、静态频次缩放等)

• 可靠性、可用性和可保护性(RAS)性能,比方端到端数据门路奇偶校验、存储寄存器奇偶校验维护等

• 全方位的内存测试支撑

• 对现有第三方PHY的集成支撑

• 应用最新的GDDR7 VIP和内存供应商内存模子举行考证

锐单商城拥有海量元器件数据手册IC替代型号,打造 电子元器件IC百科大全!

锐单商城 - 一站式电子元器件采购平台