博客
文章系列日历
归档关于搜索

鄂ICP备19019526号

© 2026 博客

标签

  • 全部
  • AI 日报(36)
  • AI 编程(51)
  • Hermes Agent(13)
  • AI 工具与产品(31)
  • AI 原生架构(43)
  • 大模型研究(39)
  • 杂项(2)
  • AI 行业趋势(22)
  • 行业研究(0)
  • 游戏(1)
  • Agent 技术(7)
  • 智能体与 AI 应用开发(5)
  1. 文章
  • LLM 推理的 GPU 拓扑感知调度工程 2026:NVLink、PCIe 与切分真相

    LLM 推理的 GPU 拓扑感知调度工程 2026:NVLink、PCIe 与切分真相

    当 8 卡 H100 的 NVLink 域把全互联带宽堆到 900 GB/s、把跨 PCIe 交换机的 P2P 带宽压到 64 GB/s 时, tensor parallelism 跨域切分会立刻把推理时延拖慢 1.4-2.1 倍——本文从拓扑模型、张量并行切分点、流水线并行阶段数、专家并行通信四个维度拆解 GPU 拓扑感知调度的工程真相。

    2026年7月11日·
    AI 原生架构
  • 对话式 AI 应用的流式与状态工程 2026:从 SSE 到事件溯源

    对话式 AI 应用的流式与状态工程 2026:从 SSE 到事件溯源

    面向终端用户的对话式 AI 产品,体验命门不在模型而在流式输出与多轮状态管理。本文把对话会话抽象为可恢复的事件溯源状态机,从 SSE 流式传输、原子检查点、幂等重连三个维度给出端到端架构,并沉淀一份从流式聚合到断线恢复的工程落地清单。

    2026年7月11日·
    智能体与 AI 应用开发
  • Flow Matching 的离散几何重建 2026:ODE 路径与最优传输

    Flow Matching 的离散几何重建 2026:ODE 路径与最优传输

    把 LLM 的非自回归生成从离散扩散的随机游走重写为一条可微的常微分方程轨迹,在向量空间直接走最优传输直线,从而把推理时计算、收敛性、可控性统一到一套 ODE 求解器里。

    2026年7月11日·
    大模型研究
  • Agent 代码沙箱隔离工程 2026:从 microVM 到密钥管理的真相

    Agent 代码沙箱隔离工程 2026:从 microVM 到密钥管理的真相

    当 LLM Agent 拿到 bash/python 工具并真去执行任意代码时,隔离工程就从“加固”变成“隔离”。本文从 microVM 快照、syscall 白名单、vault 短时凭证、冷启动延迟预算四个维度拆解 2026 年生产 Agent 沙箱的工程真相。

    2026年7月11日·
    Agent 技术
  • Agent 评估的形式化理论 2026:能力边界、失败模式代数与可靠性建模的不动点几何

    Agent 评估的形式化理论 2026:能力边界、失败模式代数与可靠性建模的不动点几何

    把 Agent 评估从「平均通过率」重写为「能力边界 ∂A 的几何重建」:本文以拓扑学、失败算子代数与 Banach 不动点理论刻画能力边界 ∂A,给出五项可工程化的 SRE 推论。

    2026年7月11日·
    Agent 技术
  • LLM 多 LoRA 路由与热加载工程 2026

    LLM 多 LoRA 路由与热加载工程 2026

    当一个 70B 基座要同时承载 200 个任务的 LoRA 适配器时,传统独立推理进程范式在显存、延迟、调度三维度失效;本文给出 S-LoRA 统一内存池、PEFT 热加载与三层路由元数据索引的生产工程真相。

    2026年7月10日·
    AI 原生架构
  • AI 应用的语义缓存与提示缓存工程 2026:从双层架构到生产降本

    AI 应用的语义缓存与提示缓存工程 2026:从双层架构到生产降本

    2026 H2 严肃 AI 应用的缓存工程已从 “凭感觉调” 升级为 “双层架构 + 五项生产策略”:模型内层 prompt caching(命中即跳过 prefill)+ 应用层 semantic cache(cosine≥0.92 + LLM-as-judge 护栏),联合命中率 ρ_joint = ρ_s + (1-ρ_s)·ρ_p·(1-FPR_s)。

    2026年7月10日·
    智能体与 AI 应用开发
  • 机制可解释性的电路理论 2026:从归因、因果干预到叠加假说

    机制可解释性的电路理论 2026:从归因、因果干预到叠加假说

    当 LLM 被视作由稀疏子图(circuit)构成的计算图,叠加假说揭示了「为什么模型能用少于特征数的神经元编码所有特征」,本文给出从归因、因果干预到稀疏编码的几何统一。

    2026年7月10日·
    大模型研究
  • Agent 多智能体协同的状态机与消息路由工程 2026

    Agent 多智能体协同的状态机与消息路由工程 2026

    多智能体从 demo 到生产的工程真相:把协同、状态、消息三元约束形式化为 Inv₁ 终止性、Inv₂ 幂等性、Inv₃ 因果性,钉进 LangGraph 显式图 + plan 版本化 + idempotency_key + trace 串联 这套工程基座。

    2026年7月10日·
    智能体与 AI 应用开发
  • Agent 世界模型的 POMDP 信念几何 2026

    Agent 世界模型的 POMDP 信念几何 2026

    用 POMDP 信念状态的信息几何把 LLM agent 的世界模型形式化为隐空间后验更新,ReAct/Reflexion/Plan-and-Execute 是不同粒度的 belief update 策略,提出三条可证伪猜想刻画 prompt 工程到 world model 工程的过渡。

    2026年7月10日·
    Agent 技术
  • LLM 量化精度退化的在线监控工程 2026:从 PPL 漂移到自动回滚的闭环架构

    LLM 量化精度退化的在线监控工程 2026:从 PPL 漂移到自动回滚的闭环架构

    当量化模型在部署第 3-6 周出现“沉默退化”时,离线 benchmark 帮不了你——需要把 PPL 漂移、激活分布偏移、任务级回归三层信号收口到自动回滚决策矩阵的在线监控工程。

    2026年7月9日·
    AI 原生架构
  • AI 应用的护栏与安全工程 2026:从输入检测、内容过滤、越狱防御到合规审计的四层治理

    AI 应用的护栏与安全工程 2026:从输入检测、内容过滤、越狱防御到合规审计的四层治理

    在 2026 年的生成式 AI 应用生产化语境下,护栏工程已从锦上添花演变为上线刚需。本文以四层治理栈为主线,系统拆解输入检测、内容过滤、越狱防御与合规审计的工程真相,给出可落地的策略即代码、决策可追溯与双模型熔断等六条铁律。

    2026年7月9日·
    智能体与 AI 应用开发
  • Chain-of-Thought 的图基推理理论 2026:可达性与图采样下界

    Chain-of-Thought 的图基推理理论 2026:可达性与图采样下界

    把 CoT 重新形式化为推理图 G=(V,E,W),本文用可达性测度、组合复杂度与图采样下界三件套,统一解释 CoT 有效性,并给出三条未公开验证的猜想。

    2026年7月9日·
    大模型研究
  • Agent 成本与性能工程 2026:四维拆解 token 预算、模型分级、缓存与早停

    Agent 成本与性能工程 2026:四维拆解 token 预算、模型分级、缓存与早停

    从工程实战的视角,拆解 Agent 成本的四元组( T×P×(1+r) )与四大杠杆——模型分级、缓存复用、早停并发、观测归因;并给出五项硬约束与八条可执行清单。目标读者是正在把 Agent 从 demo 推向生产的 AI 工程师与 SRE。

    2026年7月9日·
    Agent 技术
  • Agent 记忆架构的信息论几何 2026:从互信息瓶颈到率失真曲线的统一视角

    Agent 记忆架构的信息论几何 2026:从互信息瓶颈到率失真曲线的统一视角

    把 Agent 记忆系统从工程黑箱拉回信息论硬地面——短期记忆是上下文窗口内的条件熵切片,长期记忆是 KV-cache 之外的率失真曲线,情景检索是互信息瓶颈下的最大信息子集,记忆压缩是失真函数下的率失真最优投影;四者在同一信息平面上的几何关系决定 Agent 长程任务的遗忘行为。

    2026年7月9日·
    Agent 技术
  • LLM Prefix Cache 工程 2026:四维拆解与生产实证

    LLM Prefix Cache 工程 2026:四维拆解与生产实证

    Prefix cache 是 2026 LLM serving 系统决定 TCO 的关键变量:存储、匹配、隔离、失效四维拆解与生产实证。

    2026年7月8日·
    AI 原生架构
  • RAG 应用的产品化工程 2026:从分块、混合检索到引用溯源与幻觉抑制的端到端架构

    RAG 应用的产品化工程 2026:从分块、混合检索到引用溯源与幻觉抑制的端到端架构

    RAG 从论文范式落地为面向终端用户的完整产品,分块、检索、重排、引用、抑制五大模块必须在统一架构下协同演化,单点优化几乎注定失败。

    2026年7月8日·
    智能体与 AI 应用开发
  • Native Sparse Attention 的接受域拓扑学 2026:从分支选择、压缩聚合到与 Mamba-2 对偶谱的统一几何

    Native Sparse Attention 的接受域拓扑学 2026:从分支选择、压缩聚合到与 Mamba-2 对偶谱的统一几何

    DeepSeek 抛出的 NSA 把 attention 的接受域切成了可学习的压缩/选择/滑动窗三分支。本文用 metric-measure 空间给出五条主定理(紧化存在性、压缩不动点、稀疏率相变、与 Mamba-2 SSD 的对偶谱、与 GQA/MQA 的几何包含),并画出两条训练动力学相变曲线,给研究者五条未公开验证的几何猜想与一份八项工程基线。

    2026年7月8日·
    大模型研究
  • Agent 工具调用的鲁棒性工程 2026:四维拆解 JSON 漂移、并行竞态与 Schema 治理

    Agent 工具调用的鲁棒性工程 2026:四维拆解 JSON 漂移、并行竞态与 Schema 治理

    当 Agent 从 demo 走向生产,工具调用是第一个把概率性语言模型与确定性业务系统焊在一起的接缝。本文从工程实战视角拆解 JSON 漂移、并行竞态、Schema 版本漂移与副作用幂等四类故障,给出四级错误恢复金字塔、12 条 SRE 可观测性清单与五条治理原则。

    2026年7月8日·
    Agent 技术
  • Agent 推理范式的收敛性理论 2026:四范式的不动点几何

    Agent 推理范式的收敛性理论 2026:四范式的不动点几何

    本文用 Banach 不动点几何统一 ReAct、Reflexion、Tree-of-Thoughts、Plan-and-Execute 四种 Agent 推理范式,推导四者的压缩系数谱、双算子结构、吸引子拓扑与稀疏依赖分解,给出按任务视野长度选型的三条推论与给架构师的几何清单

    2026年7月8日·
    Agent 技术
上一页1 / 13
下一页