把上下文工程建模为速率-失真问题,用 $R(d)$ 衰减律、信息瓶颈、$S(E)$ 语义保留率三组可验证指标替换「塞满窗口」叙事——最优压缩率 30%、最佳选取准则是互信息增益、长上下文不等于有效上下文。
把词表作为推理系统的隐藏第一公里,审视多语言词表覆盖、词表裁剪收益、Token 与 KV cache 浪费的耦合、词表兼容性与下游迁移成本,把工程真相拆到生产可落地的粒度。
把 AI 应用看作一张有向契约图,把模型版本变化抽象为图上的契约边,通过嵌入维度治理、Adapter 抽象层、回归门禁与双轨评估,把版本治理从被动救火转为主动稳态控制。
合成数据的Scaling优势与模型崩溃风险是同一枚硬币的两面——它们都根植于多样性这一核心变量。300B token是关键拐点,真实数据的不可替代性是基本约束。通过修正Scaling Law、崩溃避免定理与Token-Level Editing的统一框架,工程上可建立可控的合成数据Scaling决策体系。
从注册中心、SemVer 兼容性矩阵、影子调用与金丝雀切分到漂移检测与自动回滚,闭环式治理 Agent 工具供应链。
把黑板系统、注意力竞争与全局广播统一为可执行的 Agent 认知架构,解释模块何时发言、哪些状态应进入共享工作空间,以及如何用门控、预算和反事实审计控制广播失真。
把 KV cache 张量生命周期建模为四层存储的换入换出问题:HBM-DRAM-NVMe-远端对象层,给出 vLLM / SGLang HiCache / LMCache / Mooncake 的层级化生产配置与可观测 SRE 决策表。
多租户 AI 应用的隔离不是加一层 WHERE 条件,而是在向量空间、prefix cache、embedding 适配、推理网关、合规日志五个独立维度同时做 tenant-aware 设计;本文给出方案 C 混合命名空间、路径 2 共享基座 LoRA 适配、12 个租户一致性检查点的工程闭环与 SRE/合规官清单。
把 LLM 后训练形式化为二人零和博弈的极小极大优化,在统一主定理下解释 REINFORCE→PPO→GRPO→RLVR 的演化脉络,并给出奖励可验证性与方差预算约束下的算法选择决策表。
把工具 schema 当成对 LLM 的承诺,用契约测试守住边界、用漂移检测察觉语义偏移、用 canary 工具灰度回滚——这是 Agent 工具层在生产环境里不断不裂的三件套。本文析四种漂移根因、契约测试三层验证、运行时漂移检测机制、回滚与降级自动化,并以 90 天落地计划收尾。
把提议-验证-翻译三元组、不动点几何、可微松弛与硬验证、知识图谱接口组织为一条架构路线,让 Agent 同时具备 LLM 开放语义与符号系统可证伪性。
把 prefill 与 decode 算力解耦、靠 RDMA/NCCL 跨节点传输 KV cache,把共置架构的算力错配转化为容量规划 + 网络 + 状态机的工程问题,是 2026 年 LLM 推理服务的默认形态。
把精确匹配 KV 复用作为 L1、向量相似度去重作为 L2、RAG 中间产物作为 L3、动态插槽作为 L4,通过分层命中率工程与 stampede 防御,把 LLM 应用的 token 成本与 P99 延迟分别压降 30-60% 与 40-70%。
把对齐税定义为表达熵损失 D_KL(P||Q) 沿三轴差异流形的几何积分,就能在 ε_c 之前用测地线规划找到 Pareto 最优点;超过 ε_c 表达熵阶跃式塌缩,任何对齐算法都不能消除税的下界,工程上能做的是沿曲线找性价比最高的点。
把 Agent 测试拆成 D×F×C×K 四元组 trade-off、五层金字塔纪律与六条落地清单,给读者一套 2026 年能在 CI 里真正跑起来的工程范式。
当 Agent 必须猜测对手在想什么,单纯的强化学习会崩溃于递归信念的不动点;引入 K 级 ToM 与演化博弈 ESS,在 Fisher 信息度量下构成同一个黎曼流形上的两种运动——给出从公理到工程仿真的端到端桥梁。
把影子流量回放、金丝雀预热池、双轨一致性对照与贝叶斯自动回滚整合为可工程化的发布四元闭环, 让 LLM 推理服务的语义质量退化在用户感知前就被捕获, 让冷启动假象在金丝雀前就被消除, 让发布工程师在 3 秒内做出继续或回滚的决策.
当 LLM 推理被切碎成 token 流、工具调用被切碎成 partial JSON、AI 写作被切碎成可撤销的协作操作时,终端应用的 UX 范式就从「请求-等待-展示」跃迁到「流式协作编辑器」。本文形式化流式交互的算子模型,并给出 streaming 渲染、结构化输出、人机协作三件套的可落地工程模式。
统计物理为理解大模型的涌现、Scaling Laws 与 Grokking 提供了统一的形式化框架——大模型训练是受随机梯度噪声驱动的非平衡统计物理过程,涌现能力对应于相变临界区的幂律行为,这一视角为训练调度优化、模型合并与知识编辑提供了可操作的物理直觉。
把 Temporal 持久化状态机、Airflow ETL 遗产、Prefect/Dagster 资产中心、Ray 分布式 actor 四派横比,落地六件套选型决策框架。