登录

相比上下文工程


分类

文本

相比上下文工程的文本修改,缓存工程保留所有历史文本,直接缩减不再需要的KV,继续复用其余缓存。
文章

效果

在三个模型、四个Agent任务的评测中,缓存工程相比上下文工程,平均推理成本降低27.7%,平均任务成功率提升1.7%。
文章