登录

草稿


分类

验证

SpecTr-GBV的一个重点不是只做经验上的组合,而是给出与其多草稿验证结构相匹配的理论上界。
文章

由于K条草稿由draftmodel独立生成,作者进一步考虑条件独立性下(conditionallyindependentcouplings,CIC)的耦合,以对应算法中的多草稿验证不进行联合适应的结构。
文章

研究主题:大语言模型推理加速、推测解码、多草稿验证、块验证、最优传输
文章