9 月 22 日：多卡推理收成一条 gRPC，Agent 评测改看任务完成

昨夜到今晨能点开核对的原发，几乎都压在同一件事上：模型不只是「写得出来」，还要「跨卡跑得起来、按任务评得下去、把最新观测接进去」。NVIDIA 连续发了多卡推理、Agent 评测和 Earth-2 同化三篇技术博文；PyTorch 与 Hugging Face 则补了教学框架、分词器和块级剪枝的方法说明。官方文中的误差下降数字，只作官方自评，不当成独立复现。

今天先看哪三条

1. AI / 推理：TensorRT 11.0 起支持单网络跨多 GPU，Dynamo-Triton 26.07 把多设备能力接到一条 gRPC。
2. AI / 评测：Agent 评测从给单次工具调用打分，改成在可执行环境里看整条任务有没有做完。
3. 实验室 / 天气：Earth-2 用最新观测做同化；文中给出 CorrDiff、StormCast 的 RMSE 数字，属 NVIDIA 自评。

AI：多卡收成一个端点，评测改看任务完成

NVIDIA 开发者博客写明：TensorRT 多设备推理让同一个 TensorRT 网络跨多块 GPU 执行，集合通信走 NCCL，同时保留 TensorRT 的推理优化；该能力从 TensorRT 11.0 起完整支持。配套的是 NVIDIA Dynamo-Triton 26.07：TensorRT backend 的多设备能力被打开后，一个 KIND_MODEL 实例可以持有多块 GPU，对外仍是一条 gRPC 做分布式推理。演示落在 NVIDIA Cosmos 3 Nano 视频生成——Ulysses context parallelism 把 44,160 个 video token 分到最多 8 块 GPU，Diffusers 继续编排 prompt 与调度。以上均为厂商对自身软件栈的说明，不是第三方对照实验。

同日另一篇把评测口径从「函数调对了没有」拧到「任务做完了没有」。文中写：Agent 评测已从给单次 function call 打分，转向用可执行环境跟踪多步工具使用中的状态。打分分两层——步骤级过程分用来定位链条在哪一步断，端到端结果分用来核对最终环境状态是否等于目标。指标按固定层级向上收：benchmark → trial → task → turn → step；准确率、冗长度、成本要成对报告，例如成功率配一致性区间。基准能不能比，取决于任务复杂度、环境是否有状态、以及核验方法；文中明确更看好可执行检查，而不是对照参考答案或 LLM-as-a-judge。Nemotron 相关段落没有写完，此处不补。

其余可核对、但不必升成头条的原发：

• TinyTorch（PyTorch 官方博客，Harvard / ETH Zurich）：免费开源课程，主张「成熟系统项目最终需要一个教学版」——从零写一个能跑的 ML 框架，覆盖 tensor 到 transformer。这是课程发布，不是新训练结果。
• Hugging Face tokenizers v1：分词器历史上很少是算力瓶颈，但模型变快、负载变大之后会卡住流水线。V1 把 split 从正则改成 bitstream，并写了 word cache 与 merge loop；文中列出朝 1.0.0 release candidate 的进度。具体加速数字在「Results」节，这里不转写。
• 块级剪枝当成 Ising 问题（Hugging Face，Multiverse Computing CAI）：把「删哪些 block」看成多体问题，转成能量最小化；能精确解就精确解，否则用量子或量子启发方法，并强调低能谱而不只是基态。文中称该思路可推广到稠密 transformer 之外。结果表没有出现，不写百分比。

实验室：Earth-2 的同化数字

NVIDIA Earth-2 写的是把最新观测推进决策环：同化工具处理自有或第三方观测，让预报更勤发，并把估计拉到实时条件上。Score-Based Data Assimilation（SDA）用点观测约束 StormCast、CorrDiff 这类扩散模型。文中给出的数字是——CorrDiff-COSMO 降尺度示例里风速 RMSE 降 54%；StormCast-CONUS 六个预报步上平均 降 7.2%。HealDA 把异构遥感与 insitu 观测映射到 1° HEALPix 网格，用 observation encoder 加 vision transformer 骨干，在数秒内估计全球大气状态。Earth2Studio 的数据源段落没有写完。这些百分比全部来自 NVIDIA 自己的技术博文，当作官方自评，不写成第三方复现。

信源表