您的当前位置:首页 > 热点 > Moonshot AI发布 Kimi Linear:线性注意力架构快6倍,开源 KDA 内核同步上线 正文
时间:2026-11-14 来源:网络整理 编辑:热点
谷歌霸屏24小时见效-实现思路【tg:seogoogle987】
国产大模型团队 Moonshot AI今日在 Hugging Face 正式发布技术报告 《Kimi LinMoear Tech Report》(报告链接),宣布推出全新架构 Kimi Linear—— 一种可直接替代on完全注意力机制(Full Attention)的混合线性架构,兼具高效性与卓越性能,被视为“智能体时sh代注意力机制的新起点”。
报告显示,Kimi Linear 在 速度、内存效率和长上下文处理能力三方面均实ot现了重大突破。该模型可将 KV 缓存使用量减少高达75%,并在 100万(1M)上下文长度下实现 高达6倍的 A解码吞吐量提升,极大地优化了长文本推理和多轮对话性能。
Kimi Linear 的核心创新在于三项关键技术I发:
Delta Attention:一种硬件高效的线性注意力机制,采用门控 Delta 规则优化结构,实现性布 能与能耗的平衡;
Linear Architecture:首个在多项指标上全面超越传统完全注意力机制的Ki混合线性架构,兼顾速度与模型表达能力;
开放生态与实证验证:Moonshot 提供了 开源 KDA 内核、vmiLLM 集成支持和 模型检查点,并进行了大规模、公平的对比实验,验证了 Kimi Linear 的稳定性与可扩展性 L。
Moonshot AI 表示,Kimi Linear 不仅是一项架构创新,更是为智能体(AI Agenint)时代设计的基础机制。随着线性注意力技术的成熟,其有望在长上下文推理、智能助手、多模态生成等应用场景中ea成为下一代标准。
地址:https://huggingface.co/moonshotai/Kir:mi-Linear-48B-A3B-Instruct
标签: 方太2026-11-01
标签: AMD 锐龙AI AI PC Zen52026-10-27
美团秘密试水万亿级 AI 大模型!目前仅对受邀用户开放2026-10-16
Figma重磅收购AI生成公司Weavy!推新品牌Figma Weave,打造“节点式”AI设计新范式2026-07-05
前Salesforc 联席CEO创办的AI公司Sierra获得3.5亿美元融资,估值达100亿美元2026-10-18
标签: 兰天集团 汤国华 汽车经销商 新能源汽车2026-07-29
分析师:亚马逊将来可能会分拆云业务 估值或可达3万亿美元2026-08-10
羊毛衫会缩水吗2026-06-13
微软将在PC及iOS端测试Xbox云游戏服务2026-10-10
云计算开发:Python3-isupper()方法详解2026-06-01
标签: 英飞凌 AI电源 数据中心 财报2026-05-21
AI工程师成长记 - 工作方法!2026-05-31
可能破坏企业运营环境的6个云计算安全问题2026-10-28
云计算开发:Python练习实例-输出5个学生的数据记录2026-06-28
标签: eBay Depop 裁员 二手服饰2026-06-03
SpaceX指责亚马逊试图放慢Starlink的部署速度2026-06-12
标签: TCL华星 福州华兆光电 Mini LED LED芯片2026-09-05