登录
更多
已读文章
名词
现象
观点
问题
政要
上下文工程
分类
文本
相比
上下文工程
的文本修改,缓存工程保留所有历史文本,直接缩减不再需要的KV,继续复用其余缓存。
文章
效果
在三个模型、四个Agent任务的评测中,缓存工程相比
上下文工程
,平均推理成本降低27.7%,平均任务成功率提升1.7%。
文章