作者页面描述
11月2日
Support New AI Frameworks Faster Using NVIDIA Workload Map
使用 NVIDIA Workload Map 快速支持新 AI 框架➀ NVIDIA 发布了 Workload Map，这是一个用于 Kubernetes 的开源组件，旨在提供通用的分布式工作负载描述；
➁ 该工具附带了一份包含 JobSet、PyTorchJob、Ray、KServe 等预定义定义的目录，允许调度器和控制器在不使用特定于框架的解析代码的情况下解释这些工作负载；
➂ 它支持通过 CLI 进行工作负载检查、通过 KAI Scheduler 进行 Gang Scheduling，以及通过 NVIDIA Run:ai 进行统一管理；
➃ 该定义允许不同的工具使用统一的描述来查看、调度和管理工作负载；
➄ 它是 NVIDIA DSX AI Factory 平台的一部分，并已被 Elotl 的 Nova 用于多集群调度。
Build World Models for Interactive Simulation with NVIDIA Cosmos
构建用于交互式模拟的世界模型：NVIDIA Cosmos➀ NVIDIA Cosmos 是一个面向物理 AI 的世界基础模型和开发工具平台，旨在解决传感器适应和可靠部署的挑战。
➁ Cosmos 框架提供模块化、开源的训练、强化学习、优化和推理解决方案，支持 Cosmos 3、GR00T 和 Qwen 等模型。
➂ Cosmos NIM 微服务提供 GPU 加速推理功能，如量化和推测解码，在 H200 GPU 上可实现约 2-3 倍的速度提升。
➃ Cosmos 3 Nano 模拟配方可为自动驾驶、机器人和手术场景生成同步的摄像头视频和 LiDAR 观测数据。
➄ 平台支持多种强化学习路径（DPO、GRPO、PPO）和模型优化技术，如蒸馏和量化。
➅ 提供了针对自动驾驶（Transfer-Auto、Sim-Auto）、机器人（Sim-Transfer、Sim-Bimanual）和手术模拟（H-Embodied-Nano、H-Dreams）的具体工作流程。
➆ GPU 内存要求因模型和任务而异；例如，Cosmos3-Nano 生成在 BF16 下需要 58 GiB，在 FP8 下需要 44 GiB。
Making Kubernetes AI-Ready for NVIDIA Vera Rubin on Day One
让 Kubernetes 在 NVIDIA Vera Rubin 发布首日即具备 AI 就绪能力➀ NVIDIA AICR 简化了 Vera Rubin NVL72 GPU 的 Kubernetes 就绪流程，将调优配置捕获为配方。
➁ Vera Rubin 架构更新包括 R615.23 驱动、ConnectX-9 SuperNIC 和 BlueField-4 DPU，需要特定的软件栈调整。
➂ 使用 GPU Operator v26.7.0 和 DRA 驱动 v0.5.0 进行端到端验证，通过部署、合规性以及 744.71 GB/s 的跨节点 NCCL All-Reduce 性能测试。
➃ AICR 生成可重现的部署捆绑包并执行验证快照，以确保集群间配置的一致性。
➄ 早期硅片验证揭示了 go-nvlib 中的错误，该错误已修复并通过堆栈传播。
Keep Distributed Training Running with Automated Workload Recovery
通过自动化工作负载恢复保持分布式训练运行➀ NVIDIA Recovery 是一个开源服务，旨在自动化分布式 AI 训练作业的恢复流程；
➁ 该服务利用应用日志、GPU 指标和调度器信号来检测崩溃、挂起和迟滞等异常；
➂ 系统协调一个四阶段的恢复循环，包括检测、归因、隔离以及重启或停止工作负载；
➃ 它通过独立于调度器内部结构的 API 与 Slurm 和 Kubernetes 集成；
➄ 新部署默认为监控模式，允许操作员在启用自主恢复前验证信号质量；
➅ 该工具提供审计追踪和仪表板，帮助操作员跟踪恢复决策和性能指标。
Diagnose Distributed AI Workload Failures with NVIDIA Attribution
使用 NVIDIA Attribution 诊断分布式 AI 工作负载故障➀ NVIDIA Attribution 是一款开源工具，用于关联工作负载范围的日志、指标、遥测数据和调度器状态，以诊断分布式 AI 故障；
➁ 该系统由两个可部署组件组成：提供核心引擎 REST API 的 Attribution Service，以及连接调度器和遥测源的 Python 指挥器 Attribution Blueprint；
➂ 支持多种连接器，包括 Slurm 和 Kueue 调度器，以及 Loki、Kubernetes Pod 日志和 PromQL 指标等日志与指标后端；
➃ 在 NVIDIA 生产环境中，该系统每周分析数百万个工作负载，涉及数十万台 GPU，帮助团队识别包括端口错误在内的 fabric 失败模式；
➄ 诊断流程分为四个阶段：范围界定、收集观察、通过确定性规则提取和关联事件，以及返回结构化结果；
➅ 系统能够区分根本原因和下游症状，例如将 NVLink 信号完整性问题识别为主要故障，同时保留 NCCL 错误作为支持性证据；
10月30日
Build Specialized Agents on a Stack You Control with NVIDIA NemoClaw
使用NVIDIA NemoClaw在您控制的堆栈上构建专用智能代理➀ NVIDIA NemoClaw 提供了集成的开放蓝图，包括调优的代理工具包、Nemotron 模型、NeMo 优化工具和 OpenShell 安全运行时。
➁ 目前支持 OpenClaw、Hermes Agent 和 LangChain Deep Agents 作为编排层。
➂ LangChain 为 Nemotron 3 Ultra 调优了其 Deep Agents 工具包，实现了接近前沿的性能，同时每运行一次的成本降低了约 10 倍。
How to Check and Configure NVIDIA GPUDirect Storage for Your Platform
如何检查和配置您的平台上的NVIDIA GPUDirect Storage➀ NVIDIA GPUDirect Storage（GDS）可加速各种环境中的GPU存储访问。
➁ gds-diag是一个开源工具，用于评估GPUDirect Storage环境并提出改进建议。
➂ gds-diag提供端到端检查、预安装验证、安装后验证和深度诊断。
Run AI Models for Edge Application Development with Just a Few Commands
只需几个命令即可在边缘应用开发中运行 AI 模型➀ NVIDIA TensorRT Edge-LLM 使开发者能够在 NVIDIA DGX Spark 64GB 上轻松开始边缘设备的 AI 开发；
➁ TensorRT Edge-LLM 提供了专为嵌入式工作负载设计的轻量级 C++ 推理运行时；
➂ 通过 trtedge 命令行界面可以轻松下载选定的模型并构建优化的 TensorRT 引擎；
➃ 可以通过本地 OpenAI 兼容的 API 在 Spark 上提供服务，以进行应用开发和测试。
Build a Validated Kubernetes Runtime for NVIDIA Dynamo
构建适用于NVIDIA Dynamo的验证过的Kubernetes运行时➀ NVIDIA DSX AI工厂平台通过NVIDIA AI集群运行时（AICR）将NVIDIA Dynamo及其支持的基础设施打包成验证过的食谱；
➁ Dynamo 1.4.2使用TCP进行请求平面，使用ZMQ进行KV缓存事件；
➂ AICR通过五个步骤将运行时设置与应用程序部署分开。
10月29日
Unlocking Tensor Core Performance for Machine Learning Interatomic Potentials
解锁张量核心性能以提升机器学习原子间势能➀ NVIDIA Blackwell GPU上的BF16x9算法将17,280个原子的系统中的大型GEMM加速了2.2–2.5倍，对于192个原子的系统加速了1.2–1.4倍；
➁ NVIDIA Ampere GPU上的TF32x3方法将主要GEMM加速了1.7–1.9倍，将完整的分子动力学步骤加速了高达1.5倍；
➂ TF32x3保持了势能的平滑性和能量守恒，与FP32行为相匹配，而一次TF32则表现出漂移和粗糙。
10月27日
Memory-Enforced GPU Sharing in Kubernetes with NVIDIA CUDA 13.4
使用NVIDIA CUDA 13.4在Kubernetes中实现内存强制GPU共享➀ GPU分数化操作符是一个新的开源Kubernetes操作符，它运行在与NVIDIA GPU操作符并行的方式，以在每个GPU节点上设置和监督多进程服务（MPS）。
➁ CUDA 13.4引入了一种对应用程序透明的内存边界强制措施，提供精确的内存量、保证的最小值和可突发最大值，以及时间切片和sm共享计算模式的选择。
➂ KAI调度器v0.18.0通过其NvFractions GPU共享模式与GPU分数化集成，为操作符编写每个容器的Pod注释，指定内存请求、限制、计算模式和GPU设备分配，以便在节点上强制执行。
3 Ways to Boost MoE Inference on NVIDIA DGX Spark
3种提升NVIDIA DGX Spark上MoE推理的方法➀ 优化措施包括Humming MXFP4 MoE后端、在线FP8 LM头量化以及使用NEXTN的多令牌预测投机解码。
➁ 这些优化在完整的GSM8K测试集上提高了解码吞吐量42.5%，并将平均延迟降低了24.5%。
➂ 这些技术可以组合使用而不影响准确性。
Fine-Tuning NVIDIA Nemotron to Know Local Rules, Not Just Local Languages
微调 NVIDIA Nemotron 以了解本地规则，而不仅仅是本地语言➀ 法国和比利时的 NVIDIA Nemotron-Personas 数据集提供了合成居民，以适应模型。
➁ 完整的后续训练工作流程使用角色与行为合约和官方程序文本。
➂ Nemotron 仓库提供了数据生成、培训和评估的可重用步骤。
NVIDIA RTX Spark Powers Neural Rendering and AI Characters in Games
NVIDIA RTX Spark推动游戏中的神经渲染和AI角色➀ NVIDIA RTX Spark是一款新的Windows PC平台，用于AI开发、创作和游戏。
➁ DLSS 5与3D引导神经渲染在RTX Spark上得到支持，提供性能提升。
➂ Nemotron 3.5 Bolt E4B 4GB为GeForce RTX和RTX Spark提供了增强的AI角色交互。
10月26日
How NVIDIA Mission Control 2.5 Brings Autonomous Recovery to Kubernetes
NVIDIA Mission Control 2.5如何将自主恢复功能引入Kubernetes➀ NVIDIA Mission Control 2.5扩展其自主恢复引擎，支持由NVIDIA Run:ai管理的Kubernetes工作负载；
➁ 引擎采用三层控制循环：Kubernetes调度器放置工作负载，自主作业恢复服务根据作业上下文分类故障，自主硬件恢复服务隔离并诊断故障的基础设施；
➂ 在硬件故障期间，作业恢复服务重启或重新安排工作负载，同时硬件恢复服务隔离节点并并行运行诊断。
How NVIDIA Minerva Turns Telemetry Chaos Into Peak GPU Yield
NVIDIA Minerva如何将遥测混乱转化为峰值GPU产出➀ NVIDIA Minerva统一了GPU、网络、存储和工作负载的遥测，形成一个动态的知识图谱，实时映射基础设施到活跃作业；
➁ 专为监督和无监督机器学习模型设计的模型可以检测灰度故障，如单个NVLink接口在40万个接口中降级或GPU在相同负载下比同行运行得更热；
➂ 拓扑感知关联将事件风暴合并为单个事件，例如，81个来自暂停帧风暴的单独警报被分组为一个可操作的警报，减少了修复时间并节省了大约54小时的集群正常运行时间。
10月23日
Using AI Agents to Teach Robots Like Microduck to Walk in Simulation
使用AI代理教授Microduck等机器人模拟中行走➀ NVIDIA RTX Spark作为本地开发中心，供AI代理创建模拟Microduck障碍课程的计划。
➁ Astra创建3D模拟资产，使用云图像编辑、FreeCAD建模和Blender材质。
➂ NVIDIA Isaac Sim使用Omniverse库和Newton进行物理建模来组装环境。
➃ NVIDIA Isaac Lab使用NVIDIA RTX PRO 6000 GPU上的4,096个并行环境来训练感知和运动策略。
➄ 策略在Isaac Sim中验证，并准备使用更好的执行器模型和领域随机化进行现实世界部署。
Scaling NVIDIA TensorRT Performance Optimization Beyond a Single Build Route with the Global Performance Tuner, Part 1
通过全局性能调整器扩展NVIDIA TensorRT性能优化，超越单一构建路线，第一部分➀ NVIDIA TensorRT通过在图变换、融合、实现选择、内存放置和量化等方面的相互依赖的调度决策来构建推理引擎；
➁ TensorRT 11.1中的全局性能调整器引入了可定制的构建路线，扩展了解决空间，并对每个候选方案进行了端到端准确性和性能的验证；
➂ 调整器遵循了准确性感知调整、可定制的构建路线和大型解决方案空间的原则，以选择最快的可接受引擎。
Scaling NVIDIA TensorRT Performance Optimization Beyond a Single Build Route with the Global Performance Tuner, Part 2
利用全局性能调整器扩展NVIDIA TensorRT性能优化超越单个构建路线，第二部分➀ NVIDIA TensorRT 11.1中的全局性能调整器将替代调度策略表示为明确且可搜索的构建路线；
➁ TensorRT提供了C++ API来应用固定构建路线、检查当前路线和发现完整的可调整配置空间；
➂ trtexec实现了一个调整循环，将路线表达式扩展为具体的构建路线，并选择最快的合格引擎。
10月22日
Running Frontier-Class AI Models Across 8 NVIDIA DGX Spark Nodes
在8个NVIDIA DGX Spark节点上运行前沿级AI模型➀ NVIDIA DGX Spark现在支持8节点集群，统一内存扩展到1 TB；
➁ RoCEnante后端减少了张量并行解码的解码延迟；
➂ 使用Qwen3.8-27B，解码吞吐量从每秒12个token扩展到52个token；
➃ NVIDIA NeMo Switchyard在模型池之间路由请求以实现多模型路由；
➄ 预训练nanochat模型在97.4%的效率下实现了7.79倍的加速。
How to Read Data into GPU Memory in Python with NVIDIA GPUDirect Storage
如何在Python中使用NVIDIA GPUDirect Storage将数据读入GPU内存➀ NVIDIA KvikIO提供用于加速文件I/O到GPU内存的高级Python和C++接口。
➁ KvikIO使用cuFile确定传输路径，可以是加速的GDS路径或CPU分阶段兼容路径。
➂ KvikIO和cuFile在数据路径和执行策略方面做出独立的决策。
10月21日
Achieve Productive AI Capacity Faster and More Predictably with NVIDIA DSX POD
借助NVIDIA DSX POD更快、更可预测地实现生产型AI能力➀ NVIDIA DSX POD是一个标准化的工厂预制参考设计，它将机架级AI基础设施预集成到容器中，以便在发货前进行验证。
➁ 该架构与NVIDIA Vera Rubin平台相一致，并定义了计算、网络、存储、电源、液体冷却、布线和机械设计等方面的协调要求。
➂ 工厂集成将复杂的组装和测试转移到受控环境中，同时现场团队准备基础设施、电源和外连。
Developing an AI Factory Digital Twin with an Agent-Assisted Workflow
使用代理辅助工作流程开发AI工厂数字孪生➀ NVIDIA Omniverse DSX蓝图提供了AI工厂数字孪生的参考资产和工作流程；
➁ 代理辅助工作流程将DSX参考设计、建筑参考、场地规划和地理数据相结合；
➂ 校园模型支持容量规划研究，并在固定电源预算内评估计算配置。
How NVIDIA OpenShell Reference Architecture Secures and Governs AI Agent Workloads at Scale
NVIDIA OpenShell参考架构如何大规模保障和治理AI代理工作负载➀ NVIDIA OpenShell提供开源运行时，用于保障和治理AI代理工作负载。
➁ 该框架使用网关、监督器、沙盒和政策验证器来管理工作负载并执行策略。
➂ NVIDIA Vera CPU配备了88个Olympus核心和LPDDR5X内存，在代理任务上提供高达2倍的性能。
Inside NVIDIA Sentry: Secure AI Agents at Runtime
NVIDIA Sentry：运行时安全的人工智能代理➀ NVIDIA Sentry 在 BlueField-4 DPUs 上监控和执行人工智能代理的策略；
➁ DOCA Tower 作为透明代理处理代理流量，并根据 Open Policy Agent 规则评估请求；
➂ DOCA Argus 为代理的执行环境提供实时内存内省；
➃ NVIDIA Sentry 使用专用人工智能模型对代理通信进行分类并检测行为漂移；
➄ BlueField-4 的硅内执行能力可以在毫秒内控制代理；
➅ NVIDIA Sentry 保存了代理活动的可信记录，以供调查取证；
➆ NVIDIA Sentry 与企业安全平台集成，以实现更广泛的威胁情报和事件响应。
Design Proteins with RFD4-Proteina Using Reward-Guided Inference-Time Search
使用RFD4-Proteina通过奖励引导的推理时间搜索设计蛋白质➀ RFD4-Proteina利用奖励引导的推理时间搜索共同设计蛋白质序列和全原子结构；
➁ 模型结合了显式的骨架坐标和潜在表示，消除了需要单独的逆折叠交接的需求；
➂ 残基级别的潜在表示和工程扩散减少了采样步骤，实现了更快的生成和更低的内存使用；
➃ 开放模型和NIM微服务支持各种任务，如PD-L1结合剂设计；
➄ 推理时间搜索集成了CUDA加速的预言机，用于评分和细化设计；
➅ RFD4-Proteina提供了一个蛋白质设计的流程，包括生成、搜索、评估和结果归档。
10月19日
Accelerating Mamba-2 with High-Performance Forward Pass Kernels in NVIDIA CUDA Tile
在NVIDIA CUDA Tile中加速Mamba-2的前向传递内核➀ 简街的机器学习工程师在cuTile中实现了Mamba-2状态空间模型；
➁ 优化了前向传递的三个自定义内核：chunk_cumsum、fwd_pass_state和compute_out；
➂ 利用Tensor Cores和其他高级GPU硬件功能进行性能优化。
10月16日
Code, Test, and Deploy on One Machine with NVIDIA RTX Spark
在单台机器上使用NVIDIA RTX Spark进行编码、测试和部署➀ NVIDIA RTX Spark结合GB10系统级芯片和高达128GB的统一内存，允许开发者在一台电脑上运行本地编码代理、测试和部署。
➁ 与英特尔潘托拉湖12Xe相比，提供4.6倍更快的编码代理性能、2.7倍更快的微调和1.8倍更快的代码编译速度。
➂ 与微软合作扩展Windows on Arm软件堆栈，包括PyTorch-CUDA、默认的Python 3.15和超过2,000个Conda软件包。
10月15日
Scale Agentic Coding Workflows with Meta’s Muse Spark Open on NVIDIA GB300 NVL72
Meta的Muse Spark Open在NVIDIA GB300 NVL72上扩展智能编码工作流程➀ Meta发布了Muse Spark Open，这是一个816B混合专家（MoE）模型，具有42B活动参数和1M标记上下文窗口，专门针对NVIDIA GB300 NVL72上的智能编码工作流程进行优化；
➁ 该模型提供了更高的首次尝试准确性、可靠的工具调用以及跨存储库的深度代码库理解，1M标记上下文窗口可以容纳整个项目；
➂ Muse Spark Open增加了音频和视频感知以及图像和文档理解，通过1.8B感知编码器原生处理交织的模态；
➃ NVIDIA GB300 NVL72具有72个GPU的机架级架构，NVLink通信效率高，性能优化；
➄ 模型支持多步骤任务执行，包括工具使用、输出评估和迭代改进，利用NVFP4检查点进行性能优化。
NVIDIA Nemotron 3.5 Super VL Powers Specialized Agents with Multimodal Reasoning
NVIDIA Nemotron 3.5 Super VL：多模态推理推动专业智能代理➀ NVIDIA Nemotron 3.5 Super VL 是一个开放且可定制的多模态模型，具有 120B 参数的专家混合架构。
➁ 与其他同类开放模型相比，该模型在单个 GPU 上为智能代理任务提供高达 5 倍的吞吐量。
➂ Scale AI、Ramp 和 AI21 等组织已经对模型进行了针对特定工作流程的后训练，在推理成本、延迟和准确性方面取得了显著改进。