N
Nvidia Developer

作者页面描述

6月25日

  • Q&A: How KRAFTON Built PUBG Ally, a Co-Playable Character Powered by NVIDIA ACE

    问答:krafton如何利用NVIDIA ACE打造PUBG Ally,一个可共玩角色

    ➀ Krafton利用NVIDIA ACE为PUBG: BATTLEGROUNDS开发了PUBG Ally;

    ➁ PUBG Ally是一个可共玩角色,使用设备上的自动语音识别、一个2B参数的小型语言模型和语音合成与玩家互动;

    ➂ 该角色支持英语、韩语和中文,并使用结构化内存来个性化游戏体验。

  • Streamlining Resource Binding with End-to-End Support for Vulkan Descriptor Heaps

    通过对Vulkan描述符堆的端到端支持简化资源绑定

    ➀ VK_EXT_descriptor_heap在Vulkan中引入了用户管理的单堆模型,用于资源和服务器描述符;

    ➁ NVIDIA的610+驱动程序和Nsight Graphics 2026.2支持VK_EXT_descriptor_heap,包括调试和检查工具;

    ➂ 直接描述符堆访问允许着色器直接索引描述符数组;

    ➃ 描述符堆简化了高级渲染的内存分配、绑定和布局。

6月24日

  • Accelerating BEV Pooling on NVIDIA GPUs for Physical AI Applications

    在 NVIDIA GPU 上加速物理 AI 应用中的 BEV 池化

    ➀ BEVPoolV3 引入了四个关键算法改进,以优化 NVIDIA GPU 上的 BEV 池化;

    ➁ 优化流程包括按 L2 适配度分类工作集、消除冗余散射流量、将内核实现映射到目标 NVIDIA GPU 架构,并使用 NVIDIA Nsight Compute 验证瓶颈;

    ➂ 在 NVIDIA RTX A6000 和 NVIDIA RTX PRO 6000 Blackwell Max-Q 上进行基准测试,显示 BEVPoolV3 在 DRAM-bound 路径上实现高达 22 倍速度提升,在 L2-resident 路径上实现高达 42 倍速度提升;

    ➃ 边缘类平台需要针对 FP8 采用进行架构特定评估。

6月23日

  • Maximize AI Factory Energy Efficiency Through Full-Stack Inference and Training Optimizations

    通过全栈推理和训练优化最大化AI工厂能源效率

    ➀ NVIDIA通过极端系统协同设计、集成电源、冷却和基础设施优化以及与OEM、ODM、CSP、NCP、系统集成商、ISV和模型生态系统合作伙伴的合作,实现了AI推理和训练的业界领先成本效率。

    ➁ 能量感知训练技术,包括协调GPU速度调整和细粒度分析,在不增加训练时间的情况下实现高达25%的能源节省,并在固定的电源预算内实现更大的token输出。

    ➂ NVIDIA DSX是一个开放的AI工厂规模平台,通过动态电源分配、实时遥测和高级机架级控制,提高tokens per watt。

  • Boost Inference Performance up to 15x on NVIDIA Blackwell Using DFlash Speculative Decoding

    使用 DFlash 预测解码在 NVIDIA Blackwell 上提升推理性能高达 15 倍

    ➀ DFlash 通过并行生成整个令牌块来加速 NVIDIA Blackwell GPU 上的 LLM 推理;

    ➁ 与 EAGLE-3 相比,DFlash 在相同的并发性下将 gpt-oss-120b 的吞吐量提高了 15 倍,将 Llama 3.1 8B 的交互性几乎翻倍;

    ➂ DFlash 已经集成到 SGLang、vLLM 和 TensorRT-LLM 等主要推理框架中,允许开发者无需代码重构即可采用 DFlash。

  • Build an AI Scientist for Life Science Discovery with NVIDIA BioNeMo Agent Toolkit

    使用NVIDIA BioNeMo工具包构建生命科学发现的人工智能科学家

    ➀ NVIDIA BioNeMo使人工智能科学家能够通过加速接口和服务执行生物分子任务。

    ➁ BioNeMo技能和模型上下文协议(MCP)包装提高了代理效率和任务完成率。

    ➂ 该平台支持托管和本地部署,重点关注模型优化和人工智能科学家使用的简便性。

3月12日