生成
分类
结果
通过实验,研究团队发现两个关键策略对模型训练效率有较大的影响:如图(a)所示,研究团队发现适度收窄带噪输入维度(bottleneck),极大程度提升最终模型文本生成的质量,图(b)则显示,提高在训练过程中,输入高噪声状态的概率可进一步提升生成结果。
文章
文本
对于有条件生成,给定的提示文本先被编码器转换为干净的latent前缀,提供了待生成文本的外部语义条件,从而强化模型对上下文的遵循。
文章
分布
第二步,由一个特别设计的“分块因果扩散模型”来学习这条编码后的向量序列的生成分布。
文章
第二阶段,通过分块因果扩散模型建模latent序列的生成分布。
文章