今天能点开核对的原发,在 NVIDIA 技术博客和 PyTorch 博客。文中数字一律按官方提交或作者自述转述,不是本刊复现。
今天先看哪两条
- 边缘 / AI:TensorRT Edge-LLM 在一块 Jetson AGX Thor 上跑完 MLPerf Inference v6.1 Edge Agentic,官方对比 llama.cpp 快 6.4 倍。
- 实验室 / 具身:Omniverse 上的智能体工作流给 Blender 场景补语义、物理、传感器和校验,准备送进机器人仿真。
边缘:一块 Thor 上的代理基准数字
NVIDIA 技术博客(2026-09-16)写:TensorRT Edge-LLM 在单块 NVIDIA Jetson AGX Thor Developer Kit 上跑 Qwen3.6-27B,于 MLPerf Inference v6.1 Edge Agentic 基准给出 52.33 tokens/s。性能负载全部 1,007 轮用时 24 分 36 秒;同文给出的 llama.cpp 参考跑法是 2 小时 37 分,官方据此计为 6.4 倍。
加速手段也写在同一篇里,不是第三方复测:权重和激活用 NVFP4,KV cache 用 FP8,再加基于树的多 token 预测,以及跨代理轮次的 KV cache 复用。文中称约 96% 的 prompt token 命中热缓存,用来少做重复 prefill。以上都是提交方自述。
同日 PyTorch 博客可并读、但不要和上面那条混成一次实测:作者把 FlashAttention-4 扩到 MXFP8 前向和反向,文中写在 Blackwell 上达到 2.85 PF/s。另一篇 NVIDIA 博客写 cuTile Rust:TileGym 仓库里的智能体技能把 cuTile Python / Triton-TileIR kernel 译成 cuTile Rust,移植全部 24 个公开算子,作者称平均达到 cuTile Python 性能的 99.5%;流水线带分阶段、可机检的裁决,并用相对参考 Tile IR 的 IR diff 先核结构再做功能测试。PyTorch Conference North America 2026 则定在 10 月 20–21 日、圣何塞,主题是开源研究、工具链和性能优化——这是日程,不是发版。
实验室:进仿真前的场景交给智能体
另一篇 NVIDIA 技术博客(同日)把对象从「跑基准」换成「把创作场景做成可仿真资产」。工作流基于 NVIDIA Omniverse Libraries:给 Blender 场景加语义标签、面向仿真的材质、传感器、物理属性和校验,目标是机器人仿真,而不是把原场景拍扁。
协调层文中写的是 Codex 或 Claude 总控任务;NVIDIA NemoClaw 再拉起专门的 Hermes 子智能体。点名的工具包括:ovphysx 做物理编写,ovrtx 做视觉预飞渲染,以及按目标 profile 做 SimReady 校验。OpenUSD 被写成共享合同层,用来保住层级和元数据,让智能体迭代写标签、碰撞网格、刚体属性和传感器定义。场景侧通过 Blender 的 Model Context Protocol 服务器查看,再编写 USD、给 prim 打与任务相关的类别、配置相机等。这是厂商工作流说明,不是实验室独立复现。
