NeurIPS’26 | 注意力也能弃权！改善长上下文、低比特鲁棒性

Attention Residuals（AttnResidual）通过增强 Transformer 的表达能力，让注意力在 token 之间读取和整合信息时更加灵活，从而改善长上下文与低比特量化场景下的鲁棒性。该工作已被 NeurIPS’26 接收。