登录
已读文章 名词 现象 观点 问题 政要

注意力


描述

注意力是理解、记忆和创造的入口。
文章

分类

资源

这个重新加载的过程会消耗注意力资源。
文章

每一次任务切换，大脑都会消耗注意力资源。
文章

经济

谈判背后的核心，不只是体育版权，而是整个注意力经济的变化。
文章

注意力

对于每一个query，模型会先判断序列中哪些位置值得关注，然后只在这些位置上精确计算注意力。
文章

稠密注意力假设「任意一对token都可能重要」，SSA去除了这一假设，只在真正有信息量的位置上计算注意力，其余部分直接跳过。
文章

效果

首先，要保护注意力。
文章