-
全球最大参数模型KimiK2发布
月之暗面(MoonshotAI)于2025年7月11日发布采用MoE架构的大模型KimiK2,总参数量达1万亿,每次推理仅激活320亿参数。该模型在代码能力和通用Agent任务处理上表现突出,并开源,包含Kimi-K2-Base和Kimi-K2-Instruct两个版本。
-
Kimi发展历程
月之暗面由杨植麟于2023年4月创立,产品迭代轨迹清晰:2023年10月推出首款智能助手Kimi,实现20万汉字输入长文本处理;2024年提升至200万字无损上下文能力,拓展多模态场景及工具调用;2024年底发布k0-math数学模型与k1视觉思考模型,对标OpenAI o1;2025年1月推出k1.5多模态模型,LongCoT模式下能力达OpenAI o1水平,ShortCoT模式下领先GPT-4o和Claude3.5。
-
KimiK2技术突破
- 框架设计:采用64头注意力+384专家MoE设计,相比DeepSeekV3/R1更具效能,减少自注意力计算负担,加快推理速度,提升128K长文本处理效率,扩展知识覆盖范围和多任务适配性。
- 训练优化:借助MuonClips优化器完成15.5万亿Tokens的高效训练,全程无峰值且持续提升Token利用效率。
- 数据策略:采用大规模Agentic数据合成策略,学习复杂工具调用能力,并通过自我评价机制解决不可验证任务的奖励稀缺问题。
-
KimiK2性能表现
- 行业领先:在自主编程、工具调用、数学推理等复杂任务上表现突出,代码生成速度与软件开发效率显著提升,数学推理精度加速科研进程,创意写作质量(文学评测SOTA)高居榜首。
- 性能与成本平衡:总参数量达1万亿,每次推理仅激活320亿参数,输入、输出价格分别为0.6$/MillionTokens、2.5$/MillionTokens,相较于GPT-4.5、SparkDesk-v1.1、Llama-3.1等模型更具成本优势。
-
应用场景
涵盖代码与软件研发、数据推理及科研辅助、创意性写作等领域,为科研人员、开发者及普通用户提供高效AI解决方案。
-
风险提示
- 先进算力芯片限制加强
- 下游应用需求不及预期
- 国产模型迭代升级迟缓