Kimi Linear

月之暗面推出新型混合线性注意力架构 “Kimi Linear”

月之暗面(Moonshot AI)于2025年10月31日发布了名为‌Kimi Linear‌的新型混合线性注意力架构,旨在解决大型语言模型(LLM)在处理长序列任务时面临的计算效率和性能瓶颈‌。核心创新:Kimi Delta Attention (KDA)Kimi Linear的核心是‌Kimi Delta Attention (KDA)‌,一种表达能力更强的线性注意力模块‌。它通过更精细的门控