➀ NVIDIA Attribution 是一款开源工具,用于关联工作负载范围的日志、指标、遥测数据和调度器状态,以诊断分布式 AI 故障;
➁ 该系统由两个可部署组件组成:提供核心引擎 REST API 的 Attribution Service,以及连接调度器和遥测源的 Python 指挥器 Attribution Blueprint;
➂ 支持多种连接器,包括 Slurm 和 Kueue 调度器,以及 Loki、Kubernetes Pod 日志和 PromQL 指标等日志与指标后端;
➃ 在 NVIDIA 生产环境中,该系统每周分析数百万个工作负载,涉及数十万台 GPU,帮助团队识别包括端口错误在内的 fabric 失败模式;
➄ 诊断流程分为四个阶段:范围界定、收集观察、通过确定性规则提取和关联事件,以及返回结构化结果;
➅ 系统能够区分根本原因和下游症状,例如将 NVLink 信号完整性问题识别为主要故障,同时保留 NCCL 错误作为支持性证据;