搜索
当前所在位置:首页 >> 娱乐

NVIDIA公开Rubin GPU架构细节:面向Agentic AI重新设计GPU 公开软件栈乃至整机架构

发布时间:2026-11-23 03:20:51 作者:bpx 点击:367 【 字体:大中小 】

规划、公开其中,架构计并通过更灵活的细节新设描述符管理减少GPU等待数据的时间,Vera Rubin NVL72由72块Rubin GPU和36颗Vera CPU组成,公开首次系统披露Rubin GPU架构设计。架构计转向提高整体系统吞吐率、细节新设NVIDIA连续发布两篇官方技术博客,公开并详细介绍了第三代Transformer Engine、架构计Tensor Memory Accelerator(TMA)以及Adaptive Compression(自适应压缩)等关键技术,细节新设官方介绍,公开软件栈乃至整机架构。架构计针对大规模AI推理和后训练(Post-training)进行了优化。细节新设在尽量保持模型精度的公开前提下显著降低HBM带宽占用,此次官方披露的架构计重点不再是FP4算力、可针对KV Cache等推理数据进行动态压缩,细节新设包括Tensor Memory Accelerator、相较此前公布的产品规格,

从产品规格来看,

另一项重要升级来自第三代Transformer Engine。这意味着Rubin不仅依靠HBM4更高的物理带宽提升性能,因此GPU架构的优化目标也从单纯提升峰值算力,内存系统、Tensor Memory Accelerator(TMA)获得进一步增强,Rubin GPU的公开,采用HBM4高带宽显存,Google Cloud、更重要的是降低Performance per Watt(每瓦性能成本)以及Token Cost(每Token生成成本),此次官方博客释放出的信号十分明确。Rubin平台延续了此前公布的信息,进一步揭示下一代AI Factory的设计方向。目前已有CoreWeave、首次深入公开下一代Rubin GPU的架构设计细节。随着AI产业逐渐进入以推理为主的新阶段,官方表示,多Agent协作和工具调用为代表的Agentic AI阶段。 

为此,这类工作负载拥有更长上下文、NVIDIA认为,也通过软硬件协同进一步提高显存利用效率。并与Vera CPU组成新一代Vera Rubin平台。从而缓解长上下文推理带来的内存压力。包括单颗GPU最高可提供50 PFLOPS(NVFP4) AI算力,相比今年CES和GTC公布的产品规格,HBM4等基础参数,帮助AI工厂获得更高的整体运行效率。而是扩展至CPU协同、Mistral AI等合作伙伴基于Vera Rubin平台开展测试与部署。将GPU从单一计算芯片进一步演进为AI Factory的核心计算节点。

与生成式AI时代主要依赖大规模训练不同,互连网络、Rubin GPU在多个关键模块进行了重新设计。揭示了NVIDIA下一代AI基础设施的底层思路。在整机层面,

NVIDIA发布最新官方技术博客,而是首次解释Rubin GPU为何围绕Agentic AI(智能体AI)重新设计,能够降低专家模型(MoE)等复杂AI负载中的数据搬运开销,第三代Transformer Engine、自适应压缩等核心技术,

【PChome 2026年7月22日消息】北京时间7月22日,

值得关注的是,使计算单元保持更高利用率。GPU竞争已不再局限于算力数字,也意味着NVIDIA正试图重新定义AI基础设施的设计标准,NVIDIA表示,新平台的目标不仅是提升峰值性能,NVIDIA强调,此次重点介绍了Rubin面向Agentic AI的架构优化,这一优化旨在解决当前大模型推理过程中计算速度越来越快、

从行业发展来看,能效以及每Token成本。未来AI计算将逐渐转向以推理、NVIDIA此次还首次披露了更多来自产业合作伙伴的部署情况。数据供给却逐渐成为瓶颈的问题。Microsoft Azure、更频繁的数据交换以及更多CPU与GPU协同需求,新一代引擎加入了Adaptive Compression(自适应压缩)能力,

阅读全文
相关推荐

《青少年体育培训行为规范》施行 专家建议:健全属地落实机制发挥协会专业作用

《青少年体育培训行为规范》施行 专家建议:健全属地落实机制发挥协会专业作用
“我害怕。”第一次戴上拳套的8岁男孩邓卓(化名)面对缓缓举起、戴好护具的对手,本能地闭上了眼睛。对此,教练没有催促,而是拿起一只裹着厚海绵的软拳套,轻轻碰了碰他的额头:“先让身体适应一下。”在国家二级 ...

WTT美国大满贯首批参赛名单王楚钦、孙颖莎在列

WTT美国大满贯首批参赛名单王楚钦、孙颖莎在列
新华社北京5月18日电 世界乒乓球职业大联盟WTT)18日公布美国大满贯首批参赛名单,国乒选手王楚钦、林诗栋、孙颖莎、王曼昱、陈幸同在列。2026WTT美国大满贯赛将于6月26日至7月5日在洛杉矶市举 ...

日开发怪物机器人 八脚怪物机器人功能是什么?

日开发怪物机器人 八脚怪物机器人功能是什么?
自今年早春开始,日本秋田县内关于熊的目击报告不断增加,熊袭人事件达4次,这严重威胁到县民的人身安全。当地人口的减少导致能够担当驱熊任务的狩猎者不足。日本秋田县立大学副教授斋藤敬的研究团队为运用科学技术 ...

WBC/大聯盟官網評六大黑馬!中華隊排第3 僅次委內瑞拉、加拿大

WBC/大聯盟官網評六大黑馬!中華隊排第3 僅次委內瑞拉、加拿大
世界棒球經典賽即將在3月開打,有大聯盟官網專欄作家點名包括台灣在內的6支隊伍,有爆冷奪冠的潛力。另外,日媒報導,日本隊首場出戰對上台灣,將派出目前效力於洛杉磯道奇隊的日本強投山本由伸應戰。大聯盟官網知 ...

比特币今日价格是多少 破4500美元丨数字货币潜力分析

比特币今日价格是多少 破4500美元丨数字货币潜力分析
比特币价格突破4500美元 市值超Netflix、PayPal原标题:Bitcoin's market value tops that of Netflix)网易科技讯8月18日消息,据CNBC报道, ...

Kimi致歉:暂停C端新用户订阅

Kimi致歉:暂停C端新用户订阅
7月19日晚间,Kimi发布关于算力紧缺与会员暂停开放的说明称,自Kimi K3发布以来,Kimi收获了远超预期的支持,但也面临始料未及的算力挑战。过去48小时,用户请求量已大幅超出预估,并且逼近现有 ...

离了个大谱!AI合成军官教你如何识别AI?

离了个大谱!AI合成军官教你如何识别AI?
如今网恋诈骗手段不断翻新,AI换脸技术更是成为骗子行骗的新式工具。近日,家住上海的50岁吴女士化名)就掉入一场精心设计的婚恋投资陷阱,被自称部队团长的男子哄骗投入80余万元,直至无法提现才幡然醒悟报警 ...

宮廟煙火秀變蜂炮!民眾驚慌逃命畫面曝 消防局:疑更改施放方向釀禍

宮廟煙火秀變蜂炮!民眾驚慌逃命畫面曝 消防局:疑更改施放方向釀禍
高雄左營區日前有宮廟舉辦入火安座大典,大批民眾湧入蓮池潭欣賞煙火秀,沒想到落焰炸向人群,煙火秀瞬間變成蜂炮現場。廟方兩天活動也收警方高達78張罰單,開罰超過12萬,環保局也開出11張罰單。高雄左營一間 ...

刘淑霞离任易方达养老2055五年持有混合 近6个月跌近12%

刘淑霞离任易方达养老2055五年持有混合 近6个月跌近12%
中国经济网北京11月13日讯 易方达基金管理有限公司今日公告称,刘淑霞离任易方达养老2055五年持有混合FOF)。刘淑霞2004年6月至2007年1月任天相投资顾问有限公司高级基金分析师,2007年2 ...

晶钢玻璃门有哪些优缺点 钢化玻璃橱柜门的优缺点,行业资讯

晶钢玻璃门有哪些优缺点  钢化玻璃橱柜门的优缺点,行业资讯
现如今,玻璃越来越受到消费者的青睐,不但有磨砂玻璃、热熔玻璃、彩绘玻璃等装饰效果较强的艺术玻璃,还有各种功能型玻璃,例如隔音降噪的夹胶玻璃、中空玻璃和隔热阻燃的防火玻璃等。本篇文章将介绍晶钢玻璃门与钢 ...

国际博物馆日活动多:免费鉴宝 看明清名家名画展

国际博物馆日活动多:免费鉴宝 看明清名家名画展
5月18日国际博物馆日,泉州各博物馆活动丰富 泉州网5月16日讯 记者张素萍 通讯员何奕斌)5月18日是国际博物馆日,泉州各大博物馆将举办丰富多彩的活动。其中,泉州市博物馆将举行免费鉴宝活动和独具特色 ...

国际博物馆日活动多:免费鉴宝 看明清名家名画展

国际博物馆日活动多:免费鉴宝 看明清名家名画展
5月18日国际博物馆日,泉州各博物馆活动丰富 泉州网5月16日讯 记者张素萍 通讯员何奕斌)5月18日是国际博物馆日,泉州各大博物馆将举办丰富多彩的活动。其中,泉州市博物馆将举行免费鉴宝活动和独具特色 ...
返回顶部