登录

上下文


分类

联系

可以把它理解为,两位读者阅读同一份材料,形成的内部理解各不相同,但可能都会关注相同的关键段落和上下文联系。
文章

交接

跨模型上下文交接还要重算KV?
文章

影响

尤其当小模型接手大模型积累的长上下文时,模型切换带来的重复prefill,会削弱原本希望获得的效率收益。
文章