腾讯网29 天
摩尔线程 Round Attention：以轮次块稀疏性开辟多轮对话优化新范式
解决方案：Round Attention 将 KV 缓存按轮次（对）切分为独立块，每个块完整包含一轮对话的提问与回答，确保模型在计算注意力时能直接关联完整 ...