残差连接

残差连接是2015年由何恺明等人提出的深度网络基础技术，如今是Transformer的标准组件，它让每一层既处理上层结果、又保留一条直接传递信息的通道，使深层模型能稳定训练。

残差连接是2015年由何恺明等人提出的深度网络基础技术，如今是Transformer的标准组件，它让每一层既处理上层结果、又保留一条直接传递信息的通道，使深层模型能稳定训练。