“AI 优化 AI”最先进入生产环境的形态，并不是模型不受约束地训练出下一代模型，而是进入一条目标明确、结果可测、失败可回退的系统工程闭环。OpenAI 披露 GPT-5.6 已参与真实服务栈优化；无问芯穹公开 PDD 跨数据中心推理解耦方案；开源项目 Sub2API Guardian 则把多模型通道的测活、熔断和回池做成控制面。三项进展共同说明，AI 基础设施正在从静态配置转向持续测量和受控优化。
模型开始参与承载自身的系统
OpenAI 的报告把 GPT-5.6 放进了几类边界清晰的工程任务：分析生产流量和路由，借助 Codex 改写 Triton 与 Gluon Kernel，为推测解码的 draft model 设计和运行实验，以及搜索 batching、sharding、KV Cache 等部署参数。真正重要的不是“模型会写底层代码”，而是这些任务都有可量化目标、自动实验和生产准入门槛。
这与开放式的“递归自我改进”仍有明显距离。优化目标、工具权限、评测指标和代码能否上线，依然由人类决定。更准确的描述是：模型进入了测量、提案、实验和验证回路，承担一部分搜索空间很大、反馈又足够明确的系统工程工作。Kernel 性能、首字延迟、吞吐和单位成本都能被基准测试，因此比“让模型自行决定下一步研究方向”更适合率先自动化。
优化对象从单个模型扩大到整条推理链
PDD 展示了另一层变化。它把推理拆成 Prefill、同机房 Relay Decode 和异地 Main Decode，让靠近 Prefill 的节点先生成少量 Token，遮蔽跨地域传输 KV Cache 的等待，再由远端节点接棒。项目公布的测试使用真实 Agent 工作负载轨迹，团队报告 P90 首字延迟相较朴素跨数据中心方案从 18.3 秒降至 9.8 秒；这些数字仍需在不同硬件和流量分布上复验，但架构判断值得关注。
长上下文、高前缀缓存命中和短输出，是许多 Agent 任务的共同特征。PDD 没有把每个请求当成不可拆分的整体，而是按计算密集、带宽敏感和地域成本重新安排阶段。这意味着未来的模型服务优化，不只是选择哪张卡或哪一个模型，还要持续观察缓存命中、流量形态和服务等级，再决定请求应经过哪条执行路径。
控制面也必须形成反馈闭环
模型和推理架构可以不断优化，但上游 API 通道仍会遇到限流、凭据失效、延迟抖动和容量变化。Sub2API Guardian 代表的是更贴近运维的一层：持续采集首字延迟 P50/P95 和错误类型，以健康分驱动降权、熔断与自动回池，并在写回调度配置前保存基线。它还明确区分 429 临时限流与真实故障，避免把本可自动恢复的容量永久摘除。
这个早期开源项目本身并不足以成为行业标准，但它体现了生产系统需要的基本形态：优化动作必须有观测依据，有防抖和冷却，有最低可用容量约束，也有审计和撤销路径。缺少这些机制，所谓“自动优化”只是把人工配置错误变成自动化配置错误。
工作流要从生成补丁升级为验证改进
对平台和工程团队而言，最值得复制的不是立即让 Agent 获得生产写权限，而是把现有流程改造成可验证的候选生成系统。模型可以提出 Kernel、路由、缓存或调度方案，自动基准可以筛掉无效改动，回归门禁负责保护延迟、质量和稳定性，最终发布则保持限权、灰度与可撤销。
这也会改变团队衡量 Agent 价值的方式。代码生成量不是核心指标，成功进入生产并带来可复现改善的实验比例才是。每次优化都应关联输入流量、模型与工具版本、基准结果、批准记录和上线影响，才能让系统在迭代中积累可信证据，而不是积累难以解释的自动改动。
我的判断是，AI 基础设施的下一轮竞争会越来越像控制工程：能力重要，但更重要的是能否观察状态、提出动作、验证结果并在越界时回退。AI 开始优化 AI 值得关注，不是因为它已经摆脱人类，而是因为它终于进入了人类能够度量和治理的生产闭环。
参考来源：OpenAI：GPT-5.6 frontier intelligence and efficiency、Infinigence-AI：PDD 技术报告与项目页、Sub2API Guardian 项目页