# 推理 · 日跟踪 · 2026-09-30

> 日期：2026-09-30（Asia/Shanghai）。专题正文：`intel/topics/inference.md`。原料：`/workspace/intel/archive/2026-09-30/`；对照 2026-09-29 日跟踪。

## 摘要

- **NEW · RH MLPerf Inference v6.1：** OpenShift **4.21** + vLLM 在 GB200 NVL4 上提交；自称 GPT-OSS-120B offline **61,205.6** tok/s、server **51,095.2** tok/s；仅 Kubernetes GB200 提交；CPU-only Xeon 6 上 Llama-3.1-8B / Whisper 每核最高——**MLPerf 同行评议 + 厂商博客叙述，非合同 SLA**。
- **交叉 ·** Digital Realty 调研：实时 AI 负载预期 **98%**/12 月；colo AI 项目占比 **41%→47%**（2028）——推理落点旁证（调研/媒体）。
- **续档 ·** VMware AI Deployments Part2 GPU 利用率（昨日）；AutoRAG TP。
- **不抬升：** 将「highest / only Kubernetes」写成第三方全面排名结论或我方承诺。

## 原文摘录

### RH · MLPerf Inference v6.1（NEW）

- 归档：`redhat/red-hat-delivers-peak-performance-on-kubernetes-and-cpus-in-mlperf-inf-fc8f8905.*`
- URL：https://www.redhat.com/en/blog/red-hat-delivers-peak-performance-kubernetes-cpus-mlperf-inference-v61

> … **OpenShift 4.21**, vLLM **0.24.0**… gpt-oss-120b … Offline **61,205.6** tok/s … Server **51,095.2** tok/s…  
> … only Kubernetes-based GB200 submission…  
> … CPU-only … Xeon **6972P** … Llama-3.1-8B Offline **1,507.21** tok/s… Whisper **1,966.11** samples/s…  
> … **22 of 32** datacenter submitters … used **vLLM**…

### AI infra survey · 实时推理落点（交叉）

- 归档：`industry/ai-infrastructure-tops-enterprise-ai-challenges-survey-finds-d639534a.*`

> … **98%** expect … real-time AI workloads … next **12** months… inference … metro-adjacent and edge… colo … **41%** → **47%** by **2028**…

### 续档指针

- AI Deployments Part2：见 `tracking/topics/inference/2026-09-29.md`。