热点事件观察中
北邮团队提出MiTA高效注意力机制
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
北京邮电大学团队提出了Mixture-of-Top-k Attention（MiTA）框架，旨在解决标准注意力机制计算开销大的问题。该研究将标准注意力重新解释为由当前输入生成权重的FFN结构，并据此设计了可复用的Top-k专家模块，以平衡全局概括与细节检索能力。目前，该工作已被NeurIPS 2026接收且代码已开源。实验数据显示，在ImageNet分类任务中，MiTA的准确率接近完整注意力机制，但FLOPs显著降低；在长序列任务中，其训练时间减少约77%，且推理吞吐量随序列增长呈现显著加速趋势。
AI 根据报道生成 · 1 天前更新
最新进展10月12日 11:31
北邮团队提出MiTA框架，获NeurIPS 2026接收，长序列训练时间减少约77%。报道时间线
沿着报道，了解事件的不同侧面。
10月12日
- 36氪 · 文章北邮团队提出MiTA：基于快权重视角的高效注意力新框架
北京邮电大学团队提出Mixture-of-Top-k Attention（MiTA），将标准注意力重新解释为由当前输入生成权重的FFN，并据此设计可复用的Top-k专家以平衡全局概括与细节检索。该工作已被NeurIPS 2026接收且代码开源，实验显示在ImageNet分类中准确率接近完整注意力但FLOPs更低，在长序列任务中训练时间减少约77%，推理吞吐量随序列增长显著加速。
本事件热度走势
当前热度 4·可比范围峰值 10（10月12日 12:00）·近 24 小时可比范围变化 -51%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。