把提议-验证-翻译三元组、不动点几何、可微松弛与硬验证、知识图谱接口组织为一条架构路线,让 Agent 同时具备 LLM 开放语义与符号系统可证伪性。
把 prefill 与 decode 算力解耦、靠 RDMA/NCCL 跨节点传输 KV cache,把共置架构的算力错配转化为容量规划 + 网络 + 状态机的工程问题,是 2026 年 LLM 推理服务的默认形态。
把精确匹配 KV 复用作为 L1、向量相似度去重作为 L2、RAG 中间产物作为 L3、动态插槽作为 L4,通过分层命中率工程与 stampede 防御,把 LLM 应用的 token 成本与 P99 延迟分别压降 30-60% 与 40-70%。
把对齐税定义为表达熵损失 D_KL(P||Q) 沿三轴差异流形的几何积分,就能在 ε_c 之前用测地线规划找到 Pareto 最优点;超过 ε_c 表达熵阶跃式塌缩,任何对齐算法都不能消除税的下界,工程上能做的是沿曲线找性价比最高的点。
把 Agent 测试拆成 D×F×C×K 四元组 trade-off、五层金字塔纪律与六条落地清单,给读者一套 2026 年能在 CI 里真正跑起来的工程范式。
当 Agent 必须猜测对手在想什么,单纯的强化学习会崩溃于递归信念的不动点;引入 K 级 ToM 与演化博弈 ESS,在 Fisher 信息度量下构成同一个黎曼流形上的两种运动——给出从公理到工程仿真的端到端桥梁。
把影子流量回放、金丝雀预热池、双轨一致性对照与贝叶斯自动回滚整合为可工程化的发布四元闭环, 让 LLM 推理服务的语义质量退化在用户感知前就被捕获, 让冷启动假象在金丝雀前就被消除, 让发布工程师在 3 秒内做出继续或回滚的决策.
当 LLM 推理被切碎成 token 流、工具调用被切碎成 partial JSON、AI 写作被切碎成可撤销的协作操作时,终端应用的 UX 范式就从「请求-等待-展示」跃迁到「流式协作编辑器」。本文形式化流式交互的算子模型,并给出 streaming 渲染、结构化输出、人机协作三件套的可落地工程模式。
统计物理为理解大模型的涌现、Scaling Laws 与 Grokking 提供了统一的形式化框架——大模型训练是受随机梯度噪声驱动的非平衡统计物理过程,涌现能力对应于相变临界区的幂律行为,这一视角为训练调度优化、模型合并与知识编辑提供了可操作的物理直觉。
把 Temporal 持久化状态机、Airflow ETL 遗产、Prefect/Dagster 资产中心、Ray 分布式 actor 四派横比,落地六件套选型决策框架。
从 HTN 的递归分解、子目标可达性定理到 Plan-and-Execute 的反馈闭合,再到范畴论极限对象的统一视角,本文为长程 Agent 的工程可扩展性建立一个可验证、可学习、可监控的形式化基础。
把前缀缓存从精确 hash 提升到语义近似、从单请求优化扩展到跨租户治理、从经验调参升级为 SLO 驱动的命中率工程——通过 chunk hashing + 三级 tiering + 语义放大 + 失效模式治理的四阶段闭环,把 LLM 推理的 TCO 推向新水位。
把离线演化基准、在线因果反馈、运行时分层护栏与红队持续对抗组成并联回路,每层承认不完美、每层为另一层兜底,并以预设剧本与健康度指标维持整个系统的演化。
把对抗鲁棒性重新定义为边界流形的函子结构,统一对抗训练、特征对齐、随机平滑三类方法,给出可证伪猜想与七条工程推论。
Agent 故障自愈是生产落地的关键能力——通过分层检测(基础设施/工具/模型层)、状态机驱动的决策机制与多级恢复策略,Agent 系统可在无人工介入下自动应对常见故障,同时通过 Human-in-the-Loop 保障安全边界,实现从原型到生产的高可用跨越。
把工具选择形式化为分布流形上的动力学系统,刻画训练时熵塌缩相变与推理时不确定性几何,统一探索—利用与置信校准,给出 6 条可执行的工程诊断与可观测性建议。
把 NVLink 域内亲和作为调度硬约束、把 PCIe 跨域带宽作为软约束、把 HBM3e 容量作为长约束、把 Tensor Parallel 切分作为可调旋钮,通过拓扑感知调度器把 tensor-parallel、pipeline-parallel、expert-parallel 三轴映射到物理拓扑上,把 LLM 推理的跨节点吞吐推上一个台阶。
AI 应用的灰度发布不是传统软件灰度的简单复用,而是一套面向 LLM 输出不确定性、质量多维度、回滚高成本、指标延迟性这四大差异的全新决策闭环——通过 canary + shadow + 三层护栏 + Bayesian Sequential Testing 的组合,把新版本风险暴露控制在 1% 以内。
从凝聚态物理借来 Wilson 的重整化群算子,把预训练粗粒化、SFT/DPO 微扰展开、test-time compute 反向重正化、reward hacking 临界现象串成统一视角,给出七条工程推论与三个待验证猜想。
把 Agent 的每一条 LLM 调用、工具调用、缓存命中、副作用执行都纳入带租户标签的可计费可观测性图,并打通到 Snowflake/Stripe metering 的产品级闭环,是 Agent 平台从烧钱 demo 走向商业产品的成本工程分水岭。