KimiK3
描述
KimiK3是一个2.8万亿参数模型,基于KDA混合线性注意力机制(KimiDeltaAttention)和注意力残差(AttentionResiduals)技术构建,原生支持视觉理解,并拥有100万token上下文窗口。
文章
官方表示,KimiK3是首个达到2.8万亿参数规模的开源模型,在过去12个月中的9个月里,Kimi模型都保持着开源模型的规模上限。
文章
分类
模型
官方发布了KimiK3的模型权重、技术报告,并开源支撑KimiK3模型训练的关键Infra技术:MoonEP、FlashKDA和AgentEnv。
文章
月之暗面开源KimiK3模型,2.8万亿参数2026年07月27日23:14IT之家IT之家7月27日消息,月之暗面官方今晚正式开源KimiK3模型。
文章