作者页面描述
9月1日
How to Size GPUs for AI Inference and TCO Without Overspending
如何在不过度支出的情况下为AI推理和TCO选择合适的GPU➀ 讨论了为AI推理选择GPU和优化总拥有成本（TCO）的挑战；
➁ 提供了一个将用例映射到正确GPU足迹的框架；
➂ 覆盖了关键的大小输入，如用例、令牌模式、延迟目标、并发性、缓存命中率、模型选择和部署策略；
➂ 探讨了量化、剪枝和蒸馏等模型优化技术，以提高性能并降低TCO。
8月31日
Scale AV Perception Across Vehicle Platforms with NVIDIA Omniverse NuRec
使用 NVIDIA Omniverse NuRec 在车辆平台上扩展 AV 感知➀ NVIDIA Omniverse NuRec 重建真实世界驾驶场景并为目标车辆配置渲染新的摄像头视图。
➁ Physical AI NuRec 数据集提供了超过 1,500 个神经重建场景，从六个摄像头视图捕获。
➂ 开发者将重建的场景与目标装置配对，使用 NVIDIA Harmonizer 精细调整帧，并在输出上训练感知模型。
Run NVIDIA BioNeMo NIM Microservices for Protein Structure Prediction in Claude Science
在Claude Science中使用NVIDIA BioNeMo NIM微服务进行蛋白质结构预测➀ NVIDIA BioNeMo Agent Toolkit整合了十多年的BioNeMo生命科学模型，为生物学、化学、基因组学和药物发现提供了可由代理调用的技能。
➁ 该工具包使AI代理能够使用多序列比对和多折叠模型编排蛋白质结构预测工作流程。
➂ 研究比较了Seh1单体和Seh1–C1HCX1异聚体的预测，证明了进化比对对于界面预测的重要性。
8月28日
Deploy an Open Model from Checkpoint to Inference in Two Commands with NVIDIA TensorRT Model Connect
使用NVIDIA TensorRT Model Connect在两步命令中部署从检查点到推理的开放模型➀ NVIDIA TensorRT Model Connect 提供了一个用于在原生 C++ 应用程序中部署支持的开源模型的参考实现集合；
➁ 使用 Python CLI，通过两阶段工作流程构建部署包，然后在没有 PyTorch 或 Python 解释器的情况下，使用 C++ 加载和运行该包；
➂ 提供了两种 C++ API 级别：语义 API 用于任务级输入和输出，以及模块级 API 用于直接控制张量和组件；
➃ 通过 TVM FFI 集成自定义 GPU 内核，同时 TensorRT 执行其余的管道；
➄ Model Connect 是一个连接开放模型端到端推理体验与 TensorRT 将计算图转换为 GPU 上的加速引擎能力的桥梁。
8月26日
How to Train a Cross-Embodiment Robot Navigation Policy with AI Agents
如何使用AI代理训练跨实体机器人导航策略➀ COMPASS通过使用NVIDIA X-Mobility策略和残差强化学习专家，引入了一个可扩展的跨实体导航框架。
➁ 代理驱动的流程支持内置、生成和重建的环境。
➂ NVIDIA Isaac Sim、Isaac Lab和cuVSLAM提供了统一的模拟、训练和部署基础设施。
NVIDIA NVLink Fusion Brings NVHBM to Next-Generation AI Infrastructure
NVIDIA NVLink融合将NVHBM引入下一代AI基础设施➀ NVIDIA NVLink融合和NVHBM使超大规模计算公司和AI原生公司能够将定制XPUs和CPUs部署到NVIDIA AI基础设施平台，从而实现整体端到端XPU性能提高30%。
➁ NVHBM通过集成定制基片和PHY、将内存控制器移入3D HBM堆栈以及减少I/O面积需求来实现面积节省。
➂ NVLink融合在机架规模上连接定制XPUs、CPUs和GPU，实现无缝扩展域和高效专家并行处理。
Experiment with Qwen3.8-Flash-Next 176B Model on NVIDIA GB300 NVL72 for Agentic Coding
在NVIDIA GB300 NVL72上实验Qwen3.8-Flash-Next 176B模型进行代理编码➀ 阿里巴巴的Qwen3.8-Flash-Next是一个176B参数的多模态MoE模型，具有262,144个token的上下文窗口；
➁ 该模型引入了混合的Gated DeltaNet (GDN) 和 Qwen Sparse Attention (QSA) 架构来解决长上下文推理瓶颈；
➂ QSA将序列token聚合到微块中，以块级别的重要性估计和检索；
➃ Qwen3.8-Flash-Next在NVIDIA GB300 NVL72上每GPU达到超过16K个token/秒；
➄ NVIDIA通过SGLang、vLLM、TensorRT-LLM、NeMo AutoModel和NeMo RL支持该模型；
➅ 该模型设计用于处理高容量、上下文密集型应用，如代理编码。
Experiment with Qwen3.8-Flash-Next on NVIDIA GB300 NVL72 for Agentic Coding
在NVIDIA GB300 NVL72上使用Qwen3.8-Flash-Next进行代理编码实验➀ Qwen3.8-Flash-Next是一款具有1250亿参数的多模态MoE模型，具有262144个token的上下文窗口；
➁ 该模型使用门控DeltaNet和Qwen稀疏注意力来提高效率；
➂ 在NVIDIA GB300 NVL72上运行，每GPU每秒可处理超过16K个token；
➃ 开发者可以使用NVIDIA NeMo AutoModel微调模型，并使用NVIDIA NeMo RL配方进行强化学习。
8月25日
Restore LLM Inference Capacity in Seconds with Shadow Engine Recovery in NVIDIA Dynamo
使用NVIDIA Dynamo的影子引擎恢复在数秒内恢复LLM推理能力➀ NVIDIA Dynamo的影子引擎恢复功能能够在数秒内恢复LLM推理能力；
➁ 通过GPU内存服务（GMS）持久化权重，实现快速恢复；
➂ 在GLM-5.2模型上，恢复时间从283秒缩短到7.3秒；
➃ 避免了服务等级协议（SLA）违规，显著提高了总传输时间（TTFT）和解码率。
CUDA Python 1.0: Stable APIs, One Foundation, Full Platform Access
CUDA Python 1.0：稳定的API，单一基础，全平台访问➀ CUDA Python 1.0提供了官方的、由NVIDIA维护的库和工具，从Python完全访问CUDA平台；
➁ 该版本引入了语义版本控制承诺，确保API的稳定性和可预测的弃用；
➂ 关键组件使GPU库之间的互操作性无缝，并简化了资源共享。
8月24日
NVIDIA BlueField-4 Powers New Scale-In Network Infrastructure for Agentic AI Factories
NVIDIA BlueField-4 驱动新型规模内网络基础设施，为智能工厂提供动力➀ NVIDIA 将 Scale-In 作为其 AI 网络基础设施的第五大支柱，利用 BlueField-4 DPUs、DOCA 软件和 Spectrum-X 以太网。
➁ BlueField-4 提供了针对策略执行、存储访问、安全和遥测的专用、主机独立的加速。
➂ Scale-In 将南北网络演变为 AI 工厂的协调基础设施域，实现安全访问、高性能数据移动、租户隔离、简化操作和更可预测的性能。
Solving Agentic AI Fleet Challenges with NVIDIA Vera CPU
解决 NVIDIA Vera CPU 的代理人工智能舰队挑战➀ NVIDIA Vera CPU专为代理人工智能工作负载设计；
➁ 与AMD Venice CPU相比，每核心代理工作负载性能达到1.5倍；
➂ 优化总完成的用户会话，而不仅仅是核心数量；
➃ 平衡每线程的强大性能与高并发性；
➄ 提供高效的舰队经济和改进的人工智能工厂吞吐量。
How NVIDIA Groq 3 LPX Unlocks Ultrafast Interactivity at Long Context on NVIDIA Vera Rubin
如何在NVIDIA Vera Rubin平台上利用NVIDIA Groq 3 LPX实现超快速交互性和长上下文➀ NVIDIA Groq 3 LPX与NVIDIA Vera Rubin NVL72配合，在Artificial Analysis 100K上下文基准测试中实现了世界级的3,431个输出令牌/秒；
➁ 该系统利用确定性编译器计划的工作负载规划、细粒度计算-通信重叠和预先计划的芯片间网络；
➂ Groq 3 LPX在一般代理和特定编码任务中提供高吞吐量；
➃ 该平台支持与Vera Rubin NVL72的多种协同执行配置，以支持多万亿参数模型。
NVIDIA Vera Rubin and Blackwell Set a New Standard for Agentic AI Performance per Watt
NVIDIA Vera Rubin 和 Blackwell 设定了人工智能性能每瓦的新标准➀ NVIDIA 的 Vera Rubin NVL72 在 AgentX 工作负载上实现了比 GB300 NVL72 高出 30 倍的人工智能工厂每兆瓦吞吐量。
➁ GB300 NVL72 将其相对于 H200 NVL8 的多代吞吐量每兆瓦优势扩展至动态人工智能工作负载，提高了高达 80 倍。
➂ 效率提升归功于系统级优化，包括 MoE 服务运行时、基于 DeepGEMM 的内核、混合精度格式、NVIDIA Dynamo 会话感知服务堆栈和高带宽 NVIDIA NVLink 扩展 fabrics。
Giga-Scale AI and the Ethernet Evolution: How Spectrum-X Ethernet Rewrites the Rules
大规模AI与以太网进化：Spectrum-X以太网如何改写规则➀ NVIDIA的Spectrum-X以太网解决了传统以太网在大规模AI数据中心中的局限性。
➁ 实现了硬件加速的自适应路由、目标拥塞控制和基于NIC的平面负载均衡。
➂ 在极端负载和多云环境中提供可预测的低延迟、高织物利用率和强大的鲁棒性。
8月21日
GPU-Accelerated Clustering for Financial Instruments at Scale
大规模金融工具的GPU加速聚类➀ AdaptGrow实现了大规模、GPU加速的滚动相关性和尾部依赖矩阵的矩阵分解。
➁ 工作流程采用内存高效的SymNMF来减少存储，并扩展到16个节点上的100万件工具。
➂ AdaptGrow自适应地选择全批量AdaGrad和块随机SVRG梯度，以实现快速收敛。
Maximizing AI Factory Performance per Watt with NVIDIA DSX MaxLPS
通过NVIDIA DSX MaxLPS最大化每瓦特AI工厂性能➀ NVIDIA DSX MaxLPS通过动态功率分配、高级性能每瓦优化和45°C热站点设计，在固定的功率预算内最大化AI工厂的吞吐量；
➁ MaxLPS采用动态功率分配软件（DPS）进行实时功率重新分配，提高机架密度和每瓦性能；
➂ MaxLPS旨在优化三个层面：动态功率分配、高级性能每瓦技术和45°C热效率和站点设计；
➃ MaxLPS将静态功率分配替换为动态功率分配，以提高数据中心的可用功率；
➄ MaxLPS还包括软件功能，如优化工作负载配置文件功率解决方案（WPPS），以提高GPU性能和功率效率。
NVIDIA AVO Reaches 100% on ARC-AGI-3, Demonstrating a Frontier-Level General-Purpose Architecture for Long-Horizon Autonomous Agents
NVIDIA AVO在ARC-AGI-3上达到100%，展示前沿级通用架构以实现长期自主智能体➀ NVIDIA的AVO架构通过集成持久内存、监督和工具使用，实现了长期自主操作；
➁ AVO在GPU内核优化中自主探索了超过500个方向，实现了40个内核版本，性能比FlashAttention-4提高了10.5%；
➂ 在ARC-AGI-3基准测试中，AVO实现了100.00 RHAE分数，完成了25个环境中的所有183个级别，比VISTA少用了12%的环境动作。
Where Security Fits in an AI Agent Stack
AI代理堆栈中安全性的位置➀ NVIDIA的安全团队探讨了在AI代理承担越来越复杂的工作时，安全控制应该在代理堆栈中的位置；
➁ 强调了在代理堆栈中明确定义安全边界的重要性，因为具有创造性问题解决能力的代理已经展示了绕过预期限制的能力；
➂ 讨论了在运行时和基础设施层而不是在可修改的 harness 逻辑中实施安全控制的重要性。
8月20日
How Generative Recommenders Are Redefining RecSys at Scale
生成式推荐系统如何重新定义大规模推荐系统➀ 生成式推荐系统（GRs）通过利用序列建模和类似transformer的架构来解决推荐系统（RecSys）中的可扩展性、冷启动和长尾问题。
➁ NVIDIA的recsys-examples仓库为NVIDIA GPU上的GRs提供了优化的实现，包括DynamicEmb、KV缓存和融合CUDA内核。
➂ nv-embedding-cache（NVE）提供了一种用于大规模嵌入表的分层缓存解决方案，可在生产规模的工作负载上实现低延迟推理。
8月19日
Developing NVIDIA Holoscan Applications with CLI, Skills, and AI Coding Agents
使用 CLI、技能和 AI 编码代理开发 NVIDIA Holoscan 应用➀ NVIDIA Holoscan 用于构建边缘实时 AI 应用；
➁ 开发过程中涉及迭代和 AI 编码代理；
➂ 研究表明，结合 Holoscan CLI、技能和文档可以提高开发效率；
➂ 应用包括实时内窥镜工具分割、可视化和统计分析。
Building Federated Multimodal AI Workflows with NVIDIA FLARE
使用 NVIDIA FLARE 构建 联邦多模态 AI 工作流程➀ NVIDIA FLARE 通过支持参数高效（适配器基于）和全模型通信模式来协调联邦多模态 AI 训练；
➁ FedUMM 通过仅交换轻量级的 LoRA 适配器来实施统一的多模态模型的联邦训练；
➂ NVIDIA FLARE 的 Recipe API、Tensor Downloader 和磁盘卸载模块为可扩展部署提供测试解决方案。
Post-Train NVIDIA Cosmos 3 Edge for On-Device Robot Control
基于训练后 NVIDIA Cosmos 3 Edge 的设备机器人控制➀ NVIDIA Cosmos 3 Edge 是一个基于物理世界数据预训练的 4B 全模型，专为设备机器人控制设计。
➁ 该模型足够小，可以在 NVIDIA Jetson Thor 上运行，并且能够进行实时推理。
➂ 训练后的策略在闭环仿真中达到 22.9% 的成功率，展示了该模型在设备控制方面的实用性。
Evaluating AI Agent Skill Performance with NVIDIA SkillEvaluator
使用 NVIDIA SkillEvaluator 评估 AI 代理技能性能➀ NVIDIA SkillEvaluator 通过静态检查和实际任务运行来评估技能对 AI 代理性能的影响；
➁ 在 30 多款 NVIDIA 产品上对 300 多个验证技能进行基准测试，显示出在正确性、可发现性、有效性和效率方面的显著提升；
➂ 结果显示，产品领域和评估设计对技能提升的影响大于代理工具选择，而令牌或执行节省因技能而异。
8月18日
How AI Coding Agents Can Unlock Materials Simulation with NVIDIA ALCHEMI Toolkit
AI编码代理如何利用NVIDIA ALCHEMI工具包解锁材料模拟➀ NVIDIA ALCHEMI工具包使GPU加速的机器学习原子间势（MLIP）工作流程成为可能；
➁ AI编码代理能够根据自然语言描述生成和执行代码；
➂ 系统性基准测试表明，提示细节会影响代码的结构和可重用性；
➃ 尽管自动化程度提高，但科学判断和验证仍然至关重要；
➄ ALCHEMI工具包通过PyTorch原生构建块降低了MLIP的障碍；
➅ Matlantis和BIOVIA等公司正在采用该生态系统。
Run Massive-Scale UMAP in Minutes Using Multiple GPUs—Without Losing Accuracy
使用多GPU在几分钟内运行大规模UMAP——而不损失精度➀ NVIDIA cuML 和 NVIDIA cuVS 25.06 引入了 UMAP 的多 GPU 支持；
➁ 在 MIRACL 和 Wiki 数据集上，实证结果表明速度提升了高达 74 倍；
➂ UMAP 可用于处理数百 GB 的工作负载，同时保持高可信度得分。
8月17日
Developing Nemotron 3.5 Lightning NVFP4 with QAD Using NVIDIA Model Optimizer
使用 NVIDIA 模型优化器开发 Nemotron 3.5 Lightning NVFP4 并应用 QAD➀ Nemotron 3.5 Lightning 的 QAD 流程利用 NVIDIA 模型优化器进行激进的量化（W4A16/NVFP4），同时保持与 BF16 基线接近的准确性，实现高达 4 倍的吞吐量和将模型大小从 66 GB 减少到 22 GB。
➁ QAD 包含两个阶段：训练后量化（PTQ）和量化感知蒸馏（QAD），以恢复量化过程中丢失的准确性。
➂ NVIDIA 模型优化器和 Megatron-Bridge 为 Nemotron 3.5 Lightning 的 QAD 提供端到端工作流程，促进高效的 LLM 部署。
8月12日
Serve Qwen3.8-2.4T-A95B, a 2.4T-Parameter Model, with Configurable Reasoning on NVIDIA GB300 NVL72
Serve Qwen3.8-2.4T-A95B：搭载NVIDIA GB300 NVL72的2.4T参数模型，具有可配置推理➀ 阿里巴巴发布了Qwen3.8-2.4T-A95B，其最大的开放权重模型，具有2.4T参数和每令牌95B激活；
➁ 该模型针对需要推理和智能工作的任务而设计，采用精细的MoE架构和最大一百万令牌的上下文窗口；
➂ 在NVIDIA GB300 NVL72上部署该模型，每GPU吞吐量超过4K令牌/秒；
➃ 该模型内置推理控制，让开发者可以根据任务配置推理深度；
➄ NVIDIA支持多个推理堆栈，用于模型的部署和后训练。
How to Choose Full-Stack Observability for NVIDIA AI Factories
如何选择适用于NVIDIA AI工厂的全栈可观测性➀ 整合NVIDIA AI基础设施各层的数据遥测，以进行精确的根源分析；
➁ 将基础设施组件映射到专门的遥测工具，如DCGM、NVSM、UFM和NetQ；
➂ 优先考虑最小化工具重叠，并维护与SLO/SLI指标直接相关的简洁、可操作的警报集。
8月11日
NVIDIA JetPack 7.2.1 Adds Agentic Video Skills and T3000 Emulation
NVIDIA JetPack 7.2.1 添加了代理视频技能和 T3000 模拟➀ NVIDIA JetPack 7.2.1 引入了代理视频技能和 T3000 模拟；
➁ 添加了对 PyNvVideoCodec 2.2 的支持，实现基于 Python 的硬件加速视频编码和解码；
➂ 允许在 Jetson T5000 上模拟 Jetson T3000 的性能；
➃ 通过统一的 jetson-videosdk 技能提供基础视频工作流程。