跳到正文
机器之心·· 2 天前精选AI 评分68

北大提出MapFlow,实现跨模型注意力复用以降低计算成本

跨模型上下文交接还要重算KV?北大提出MapFlow,让注意力跨模型复用

摘要/原文摘录

机器之心报道北京大学提出的MapFlow方案,旨在解决多模型协作中上下文交接时的重复计算问题。该方案允许不同模型间复用注意力机制,减少KV缓存的重算开销,为兼顾效果与成本的AI Agent应用提供路径。

推荐理由

北大提出MapFlow方案,通过跨模型复用注意力机制降低多智能体协作中的KV重算开销。

来源:机器之心 · jiqizhixin.com

浙ICP备2026096764号