登录

压缩


分类

策略

他们拿隔壁千问Qwen3-0.6B的小模型当新底座,用不同的压缩策略,从头训练了一批模型。
文章

研究者们继续挖,发现原来跟V4Pro的压缩策略有莫大关系。
文章

这些压缩策略细节各不相同,但原理和思路有很多类似的地方的,主要就是三条路线:建目录索引,保存状态的变更,还有就是压缩记忆本身,也就是KV值。
文章