AI大模型
英伟达 Vera 在智能体 AI 负载下性能超越 x86 1.8 倍
英伟达昨日(7 月 7 日)发布博文,指出在智能体 AI 时代,NVIDIA Vera CPU 成为“可规模化单线程最强 CPU”,持续单核性能是 x86 的 1.8 倍。
在博文中,英伟达提出“可规模化单线程最强 CPU”(Max single-threaded CPUs at scale)概念,指出在智能体 AI 推理、响应和学习过程中,CPU 需要承担工具调用、代码执行、数据处理、KV 缓存和结果分析等任务,而单线程是衡量速度的一个关键指标。

英伟达在官方博文中指出,NVIDIA Vera 就是此类新型 CPU 的代表,面向智能体循环中的串行步骤设计,相比较 NVIDIA Grace,其自研 Olympus CPU 核心每周期指令数高 50%。

在硬件参数方面,Vera 配备最高 1.2TB/s 的 LPDDR5X 内存带宽,内存功耗低于 40 瓦;同时采用单片计算裸片设计,核心间带宽为 3.4TB/s。
在性能对比方面,英伟达称,在智能体 AI 执行的满载 CPU 工作负载中,Vera 的单核持续性能为 x86 的 1.8 倍。
Perplexity 测试一项真实编码流程,即克隆代码仓库并在沙箱中运行测试套件,结果显示 Vera 完成任务速度约为 x86 的 1.5 倍,并发沙箱启动速度最高为 x86 的 1.9 倍。

在数据处理类负载中,合作伙伴测试显示,Vera 运行 Starburst(分布式 SQL 分析平台)的大规模 SQL 分析速度可达领先 x86 服务器 CPU 的 3 倍;在 Redpanda(流式数据平台)实时流处理场景中,延迟最高可降低至 1/6。

相关阅读
-
(G-G) AI 学习笔记 NotebookLM 新增提示词编辑与幻灯片导出功能
NotebookLM是(G-G)的一款AI大模型驱动笔记式研究、学习与思考助理。IT人网了解到,该工具近期获得了多项功能更新,进一步优化了使用体验。目前所有NotebookLM用户均可使用基于提示词的修改功
-
英伟达平台研发的HD现代造船AI机器人将首用于焊接工序
据HeraldEconomy报道,HD现代(韩国现代集团旗下的综合型重工业企业)正基于英伟达机器人仿真平台IsaacSim研发实体人工智能机器人。HD现代计划将这类机器人投用于焊接等船舶制造核心工序。
-
英伟达最强开源权重 AI 模型:Nemotron 3 Super 登场 120B 参数、吞吐量飙升
英伟达公司昨日(3月11日)发布博文,宣布推出Nemotron3Super开源大模型,是其迄今为止最强大的开源权重AI模型。IT人网注:开源权重模型(Open-weightAImodels)是指将决定AI模型行为的关键参数(权
-
21张免单卡不够?阿里千问明天再见!
阿里千问今日发文称,这些天看到不少用户反馈21张免单卡根本不够,还有朋友发现留给自己的活动时间不多了,以及刚连上网的朋友在线求问现在参加是否来得及。对此,千问已经在连夜研究


