立场：LLM 推理应作为『能源到 Token 生产』进行评估 Position: LLM Inference Should Be Evaluated as Energy-to-Token Production

方法可拆为五个连贯步骤。Step 1 (生产函数构造)：从工业生产类比出发，把单位时间 token 产出定义为 $\dot{Q}_{token} = \min(K_{eff}/c_{tok},\, P_{IT}/e_{tok}) \cdot U$，其中 $P_{IT} = P_{facility}/PUE$；明确 Keff 单位为 FLOPs/s、$c_{tok}$ 单位为 FLOPs/token、$e_{tok}$ 单位为 J/token、$U \in (0,1]$，由此两个分支与 $U$ 的乘积均得到 token/s 维度，公式维度自洽。Step 2 (约束切换诊断)：计算比值 $\rho = P_{IT}/K_{eff}$（送达电力/算力的功率密度，单位 J/FLOP）和 $\rho^* = e_{tok}/c_{tok}$（工作负载自然需求的 J/FLOP）；当 $\rho > \rho^*$ 时算力是瓶颈，$\rho < \rho^*$ 时送达功率是瓶颈，$\rho = \rho^*$ 时两约束相等——这是 Roofline 思路从内存带宽到送达电力的直接推广。Step 3 (Φsystem 解构与估计)：把 $\Phi_{system}$ 拆为 6 元组 $\{\Phi_{prefill},\, \Phi_{decode},\, \Phi_{mem},\, \Phi_{comp},\, \Phi_{sched},\, \Phi_{route}\}$；给出 ratio-form 估计器——$\Phi_{mem} \approx \dot{Q}_{obs}/\dot{Q}_{ceil}^{BW}$，其中 $\dot{Q}_{ceil}^{BW} = BW_{HBM}/(2N_{param} \cdot w_{bytes})$，$\Phi_{mem} < 0.3$ 判定为内存受限；$\Phi_{decode}$ 把分子限制在 decode 阶段 token；$\Phi_{sched} \approx \overline{SM_{US}}/SM^*_{batch}$（使用 DCGM_FI_PROF_SM_ACTIVE 等计数器）；聚合 $\Phi_{system} \approx e_{tok}^{ref}/e_{tok}^{obs}$，参考为同参数规模下 dense MHA + FP16。Step 4 (历史叙事与数字锚定)：把 LLM 推理发展分为 Epoch 1 (2020–2022, $\Phi \approx 1$)、Epoch 2 (2023–2024, FlashAttention/vLLM/INT4 把 $e_{tok}$ 拉低一个量级)、Epoch 3 (2025–2026, MLA/NSA/CSA 把 1M 上下文推理的 KV cache 压到 10%)，并用 IEA 415→945 TWh/年、capex 72%/年、token 调用 1000× 增长等数字把『能源墙』坐实。Step 5 (评估议程与生态分类)：输出 6 个披露维度清单（J/token、活跃约束、PUE 调整后送达功率、利用率、$(q^*, s^*)$、工作量与能量核算边界），提出 MLPerf Power 扩展到 LLM serving，并区分 Path A (CapEx 驱动、$P_{UE} \in [1.5, 2.0]$) 与 Path B (OpEx + Φsystem 驱动，$PUE \in [1.1, 1.2]$，MLA/CSA/HCA/NSA 全面部署) 两种 AI 生态路径，给出截至 2026 年 4 月的 3×–30× 标价差异作为方向性证据。

技术新颖性集中在四个层面。第一，公式层的 Leontief 双约束 + 利用率分离是首次明确把『送达电力』和『有效算力』放在同一个 min 算子里对 token 产出建模，并证明二者单位一致（都是 token/s），让『功率墙』从一个工程口号变成可在生产现场逐项测量的对象。第二，$\rho - \rho^*$ 诊断第一次给『何时算力受限 vs 功率受限』一个可证伪的二元判据，并配套 $K_{eff}$ 的测量约定（默认 realized serving throughput），从而让不同论文的诊断结果可比——附录 B 通过 65B 模型在 H100 上的工作例子展示，同一块硬件按 peak 分母会判为功率受限、按 realized 分母会判为算力受限。第三，$\Phi_{system}$ 的 6 元解构与 ratio-form 估计器把『系统优化』从一个口号分解为可分别量化、可分别归因的子机制，使 TFP 残差不再是不可分解的黑箱；并通过显式说明 $U$ 与 $\Phi_{system}$ 不冗余（前者从负载/队列信号来、后者从 J/token 与物理极限比来）避免了常见的双重计算错误。第四，把 MLPerf Power 的功耗测量传统、Green AI 的训练能耗报告、碳核算的全生命周期视角与生产函数框架统一在一个 $(q^*, s^*)$-conditioned 的评估议程下，并第一次给出 6 个披露维度的具体清单，使『请报告 J/token』从修辞转化为可操作的同行评审标准。

独立分析的弱点可分四个场景。**场景一：框架的可证伪性薄弱**。当前 $\rho - \rho^*$ 诊断的判据高度依赖 $K_{eff}$ 测量约定，作者推荐 realized serving throughput，但若不同论文沿用不同分母，跨论文比较就会失真；改进方向是在 MLPerf Power 风格的标准工作负载（如 Llama-3 65B、Qwen-72B、DeepSeek-V3 类代表模型）下发布一组 reference $K_{eff}$ 与 $\rho^*$ 锚点表。**场景二：Table 2 的可重复性差**。A/B/C/D 四行来自不同实验、批处理不同、能量核算边界不同，D 行的 0.10× 是组合投影；改进方向是由一个中立组织（类似 MLPerf 联盟）在固定 (q*, s*) 锚点下做一次端到端 e_tok 头对头基准，关闭 A→D 完整 10× 差距的真实程度。**场景三：Φsystem 双重计算风险**。6 元解构中 $\Phi_{sched}$（SM 活动利用率）和 $U$（effective utilization）描述上有重叠——前者本就是后者的一部分（$\overline{SM_{US}}/SM^*_{batch}$ 接近 $U$），而作者在脚注中又强调二者『不同信号』；改进方向是给出更明确的归属规则（例如 $U$ 专门承载队列/需求/路由摩擦，$\Phi_{sched}$ 专门承载 SM 内核调度效率），并用一个公开数据集验证二者独立性。**场景四：生态分叉图过度简化**。Path A/B 是风格化原型，真实国家/区域生态混合两种特征；3×–30× 标价差异同时受质量、SLO、补贴、垂直整合影响；改进方向是引入更多非价格物理信号（电网碳强度、PUE 中位数、$K_{eff}$ 利用率分布）来做多变量聚类，而非仅用 API 标价分群。

作者明确提出的未来方向：(1) 在 MLPerf Power 框架下扩展 LLM serving 基准，把 J/token、活跃约束、PUE 调整后送达功率、利用率作为强制披露字段；(2) 建立 (q*, s*)-conditioned 的跨栈 e_tok 头对头基准，关闭 Table 2 A→D 的 10× 差距是否真实存在；(3) 把 Φsystem 优化（MLA、NSA、CSA/HCA、INT4、混合线性、难度自适应推理预算）视为与算法创新同等的贡献维度，资助方与会议评审应把『未披露 ρ、PUE、Φmem』视为可退稿的硬伤。基于成果可延伸的方向：(4) 把 Token Production Function 拓展到训练侧，建立『能源到能力 (joule-to-capability)』评估议程，以响应 Green AI 传统；(5) 在多区域/多电网约束下研究『路由-调度-模型选择』三层联合优化，把区域电网碳强度与 PUE 显式作为决策变量；(6) 把 ρ - ρ* 诊断做成一个持续更新的『全球 LLM 部署约束地图』开源项目，跟踪不同区域/不同硬件在不同 $(q^*, s^*)$ 下究竟处于算力受限还是功率受限区域；(7) 探索 difficulty-adaptive reasoning 预算（论文引用了 22.4% 输出 token 削减的结果）在 joule-per-correct-answer 维度上是否成立，并把『正确率 × 1/e_tok』作为新的综合 KPI。

可复现性分三层评估。**第一层是数据/锚点的可复现性**：高。Table 1 的所有量级锚点（H100 峰值、IEA 415→945 TWh/年、行业 PUE 1.56、最佳 1.08–1.09、capex 72%/年、token 调用 1000× 增长、API 标价 3×–30× 差异）都引用了 IEA 2025 报告 [1, 29]、DOE 数据中心电力报告 [2]、OpenRouter 100T token 抽样 [64] 等公开来源，读者可在原始报告中独立核验。**第二层是 Table 2 数字的可复现性**：低。行 A 来自 [19, 24] 测量、行 B 来自 [25]、行 C 来自 [30, 20]、行 D 是组合投影，因此不是单一受控实验；读者无法用一份代码、一组硬件、一个工作负载跑出『MLA + INT4, e_tok ≈ 0.35 J』的精确数字，必须自行对齐批处理、上下文长度、能量核算边界（GPU-only / system-level / facility-level）后才能复现近似值。**第三层是框架实现的可复现性**：中。$\Phi_{mem} = \dot{Q}_{obs}/\dot{Q}_{ceil}^{BW}$ 等 ratio-form 估计器在概念上可实现，但作者没有提供参考实现代码，DCGM_FI_PROF_SM_ACTIVE 等计数器的采集与归一化需要各实验室自行搭建。**总体算力门槛**：低到中——单卡 H100 即可做小规模 e_tok 测量与 Φmem 估计，但要完成跨模型/跨精度的端到端 Table 2 复现需要数十到数百 GPU-小时。**难度评估**：复现框架容易（公式 + ratio 估计器 + 公开数据），但要复现 Table 2 的精确数字属于开放性问题，需社区共建。