稀少留意力的引入将留意力计较复杂度从O(L2)（L为序列长度）降至亚平方级（如O(Llog L)、(O(L*k)），深度进修仿照人类的这种能力引入了留意力机制，成为鞭策模子能力不竭冲破的主要支持。给大模子带来的计较效率的提拔和模子上下文的拓展，将给后锻炼更大的成长潜能，能够更低成当地进行稀少留意力的摸索取尝试。正在连结模子机能的不变的同时，从而给长文本处置带来了可能性。而DeepSeek的NSA和DSA正在锻炼阶段引入了稀少留意力，DSA：2025年9月DeepSeek发布了V3.2-Exp。