在AI浪潮中，模型参数增长和算力堆叠一度成为竞逐焦点。不过站在当下时点 ，当生成式AI开启规模化落地 ，战场已经转向推理：真实场景中海量数据的瞬间调用 、百万Token的连续推理 、长上下文的高效处理，在提升了算力需求的同时，也重新定义了算力基建的价值链 。
在日前的AI基础设施峰会上 ，英伟达发布了全新Rubin CPX GPU 。据官方介绍 ，这颗芯片专为长上下文推理负载设计，是英伟达首颗专为需要一次性处理大量知识（数百万级别Tokens）并进行AI推理的模型构建的芯片。
英伟达称 ，这颗芯片可以为客户带来“前所未有的投资回报率”——每部署价值1亿美元的新芯片 ，将带来50亿美元收入，投资回报率约50倍 ，远超GB200 NVL72的约10倍回报率。此外 ，公司宣布GB300 NVL72机架级系统在最新MLPerf推理基准测试中创造了新推理基准记录 。
花旗研究指出，在ASIC竞争加剧的环境下 ，英伟达曾经一年一度的产品发布脚步开始提速 ，Rubin CPX在产品路线图中“插队 ”，标志着“推理时代 ”已经到来 。
分析师进一步指出 ，Rubin CPX的发布和MLPerf新纪录都展现了英伟达在AI基建领域的持续创新能力。随着AI推理需求、特别是长语境推理需求爆发 ，英伟达的新品组合有望带动收入显著增长 。
值得注意的是 。本周引发全球市场瞩目的甲骨文，也提到了推理市场需求的爆发。
在业绩会上，公司创始人Larry Ellison明确指出 ，AI正从根本上改变甲骨文 ，AI推理市场将“远大于”AI训练市场，而市场上的推理算力正在被耗尽 。
虽说甲骨文指数级别的订单爆炸性增长 ，以及随之而来对OpenAI依赖性的质疑 ，让其股价在飙升之后连跌两天 。但摩根大通也表示，承认甲骨文在获取OCI业务方面取得了“令人印象深刻的成就” ，并认可其在AI领域的长期潜力。
▌算力基础设施进入长上下文推理新阶段
实际上拉长时间线就能发现 ，海内外大厂Token调用量已出现明显加速拐点，推理端算力需求快速增长 。
今年5月Google I/O大会的数据显示 ，Google的Token月均调用量从去年4月的9.7万亿增长至今年4月的480万亿 ，增长50倍 。根据微软三季度电话会数据，Azure AI基础设施在今年一季度处理了超100万亿Token ，较去年同期增长5倍 ，其中3月份单月Token调用量达50万亿。国内互联网大厂来看，今年5月字节火山引擎Token日均调用量为16.4万亿（月均508T），是去年5月的137倍 。
过去一年 ，随着生成式AI进入规模化落地阶段 ，行业对“长上下文 ”的需求快速上升 。无论是企业级知识库问答、代码生成，还是多模态长视频生成 ，均需要模型在极大输入序列下保持推理准确性与计算效率。然而 ，现有GPU在应对超长上下文时普遍存在内存带宽瓶颈与计算冗余，导致算力利用率不足。
东吴证券指出 ，从产业角度来看 ，Rubin CPX的推出不仅是英伟达产品线的升级，更意味着海外算力基础设施进入“上下文与生成分工协作 ”的新阶段 。随着百万Token推理与长视频生成成为AI应用的标配需求 ，硬件和软件的耦合度显著提高 ，算力产业链的价值量同步上升 。无论是GPU 、存储 、网络，还是配套的高速PCB、光模块与封装工艺 ，相关厂商都有望深度受益。
股票10倍杠杆:网上股票开户怎么开通-挖机7月销量表现亮丽 工程机械“淡季不淡”
股票杠杆怎么开通交易:股票配资开户炒股-A股三大利好来袭！多则消息引发市场关注！
炒股配资平台开户:买股票怎么网上开户-国务院发文复制推广上海自贸试验区77条试点措施
怎么买股票网上开户:可以挑选股票的炒股软件-又一家中资从欧洲职业足球俱乐部撤资 星辉娱乐拟1.3亿欧元出售西班牙人99.66%股权
网上怎么进行股票开户:配资炒股app最新版本-特朗普拟举办AI晚宴 科技大佬齐聚白宫 马斯克未列受邀名单
网上开户股票帐户怎么消户:如何开户炒股买股票怎么开户-超级利好来袭 AI芯片爆了！杠杆资金大幅出手
益通网-股票配资风控_最专业股票配资提示：文章来自网络，不代表本站观点。
益通网-股票配资风控_最专业股票配资⑯我们以客户利益为首要考虑，通过严格的资金管理和风险控制措施，确保客户的投资安全，实现稳健收益。
记者辛圆国务院总理李强周三在政府工作报告中介绍今年政府工作任务时提出，推动标志性改革举措加快落地，更好...
3月24日，业内权威专家表示，MLF（中期借贷便利）不再有统一的中标利率，标志着MLF利率的政策属性完全退出。3月24日...
中证协对《证券公司文化建设实践评估指标》进行修订，最新发布2025年修订稿。新评估指标对推动文化建设国际交流作出贡献的证...
沪深两市成交额连续第44个交易日突破1万亿，较昨日此时缩量超900亿。...
乘联分会3月10日发布数据，2月新能源乘用车批发销量达到83.0万辆，同比增长79.6%，环比下降6.7%；1-2月累计...
上海创兴资源开发股份有限公司（证券代码：600193，简称“创兴资源”）于2025年3月21日发布公告，称其为全资子公司...
2025年4月12日，萤石网络(688475.SH)发布2025年一季报。 公司营业总收入为1...
3月7日下午，亚振家具（603389.SH）发布公告称，预计2024年度归母净利润将为负值，且扣除与主营业务无关的收入后...
10年期美国国债收益率现日内上涨17个基点至4.43%。...
2025年3月25日，倍轻松(688793.SH)公告称，公司股东宁波倍松投资有限公司（简称“宁波倍松”）拟通过大宗交易...
李强主持召开国务院常务会议，研究建立健全涉企收费长效监管机制有关举措。会议指出，加强涉企收费监管是降低企业经营成本、优化...
记者｜张乔遇火锅丸子等速冻食品“一哥”安井食品近日披露了向香港联交所递交了境外发行上市申请，拟在联交所主...
汇丰晋信慧鑫六个月持有期债券型证券投资基金截至2025年3月19日，已连续40个工作日基金资产净值低于5000万元，可能...
1. ST吉药(300108.SZ)：因2023年期末净资产为负值且审计报告被出具无法表示意见，公司股票自2024年4月...
央行公告，为保持银行体系流动性充裕，更好满足不同参与机构差异化资金需求，自本月起中期借贷便利（MLF）将采用固定数量、利...
