Kimi更新领跑国产大模型

Kimi大模型火爆出圈，200万字上下文能力效果惊艳。1）2024年3月18日，创业公司月之暗面宣布Kimi智能助手在长上下文窗口技术上再次取得突破，无损上下文长度提升了一个数量级到200万字。2）百万字无损上下文阅读能力帮助Kimi高速掌握新领域。过去要10000小时才能成为专家的领域，现在只需要10分钟，Kimi就能接近任何一个新领域的初级专家水平。用户可以跟Kimi探讨这个领域的问题，让Kimi帮助自己练习专业技能，或者启发新的想法。3）随着本次更新，现在Kimi能够一口气精读500个，甚至更多数量的文件，帮助用户快速分析所有文件的内容，并且支持通过自然语言进行信息查询和筛选，大大提高了信息处理效率。4）根据财联社报道，从3月20日观测到Kimi流量异常增高后，月之暗面已经进行了5次扩容工作。推理资源会持续配合流量进行扩容，以尽量承载持续增长的用户量。已经设计了一套更有效的SaaS流量优先级策略，以保障付费用户的调用稳定，预计3月25日之前完成并上线。 高精尖研发团队坚定AGI信心，国产模型有望产生持续进步打开应用空间。1）月之暗面（Moonshot AI）创立于2023年3月，致力于寻求将能源转化为智能的最优解，通过产品与用户共创智能。创始团队核心成员参与了Google Gemini、Google Bard、盘古NLP、悟道等多个大模型的研发，多项核心技术被Google PaLM、Meta LLaMa、Stable Diffusion等主流产品采用。截止至2023年10月，Moonshot AI融资超2亿美元。2）根据Moonshot AI创始人杨植麟分享，月之暗面在实现长文本之后的两个主要计划是：①真正的统一的世界模型，能统一各种不同模态、真正可扩展、通用的系统结构；②实现能在没有人类数据输入的情况下，使AI持续进化。预计未来2-3年，甚至更快时间实现。3）长文本技术相较GPT-4进一步“升维”。杨植麟认为，实现长文本处理技术和追赶GPT-4技术并不可复用，因为其本质是GPT-4没有的新的维度。国内厂家一方面需要提升综合能力，另一方面则可以在很多空间产生独特的新能力、在新的方向做到世界领先，而长文本就是这样的方向之一。4）展望2024年的大模型发展：杨植麟认为1）在全球大模型产业，今年还会有更多功能出现，但格局不会跟今天有太大差别，领先玩家会维持不变。从能力来说，今年下半年会有一些比较大的突破，很多会来自OpenAI可能推出的下一代模型。多模态方面，视频的生成模型肯定还能继续拓展。2）在国产大模型产业，一方面可以看到新的独特能力产生。随着前期的投入和合适的团队，国产模型可以在某一些维度做出世界领先的能力。另一方面，预计今年大概率会出现更多用户量级更大的产品，实现进一步的对市场的整合和路线选择的分化。 建议关注： 算力侧：中科曙光、浪潮信息、海光信息、利通电子、浙文互联、云赛智联、高新发展、中际旭创、新易盛、工业富联、寒武纪、神州数码、恒为科技、软通动力、润建股份、万马科技、拓维信息、烽火通信等。 AI相关：金山办公、大华股份、福昕软件、海康威视、昆仑万维、拓尔思、科大讯飞、万兴科技、润达医疗、开普云、中广天择、漫步者、紫天科技。 风险提示：AI技术迭代不及预期；经济下行超预期；行业竞争加剧。 1.Kimi大模型火爆出圈，200万字上下文能力效果惊艳 2024年3月18日，创业公司月之暗面宣布Kimi智能助手在长上下文窗口技术上再次取得突破，无损上下文长度提升了一个数量级到200万字。即日起，支持200万字上下文的Kimi已启动内测。 图表1：支持200万字上下文的Kimi已启动内测 在此之前，Kimi于2023年10月初次亮相。凭借约20万汉字的无损上下文能力，帮助用户解锁了很多新的使用场景，包括专业学术论文的翻译和理解、辅助分析法律问题、一次性整理几十张发票、快速理解API开发文档等，获得了良好的用户口碑和用户量的快速增长。 此次更新带来的百万字无损上下文阅读能力帮助Kimi高速掌握新领域。过去要10000小时才能成为专家的领域，现在只需要10分钟，Kimi就能接近任何一个新领域的初级专家水平。用户可以跟Kimi探讨这个领域的问题，让Kimi帮助自己练习专业技能，或者启发新的想法。 随着Kimi更新发布，月之暗面给出了一系列生活与工作环境中的Kimi使用案例： 上传几十万字的经典德州扑克长篇教程后，让Kimi扮演德扑专家为自己提供出牌策略的指导。 图表2：Kimi根据德州扑克教程给出策略指导 上传一份完整的近百万字中医诊疗手册，让Kimi针对用户的问题给出诊疗建议。 图表3：Kimi根据中医诊疗手册给出意见 上传英伟达过去几年的完整财报，让Kimi成为英伟达财务研究专家，帮用户分析总结英伟达历史上的重要发展节点。 图表4：Kimi根据英伟达财报进行财务分析 上传一个代码仓库里的源代码，可以询问Kimi关于代码库的所有细节，即便是毫无注释的陈年老代码也能快速梳理出代码的结构。 图表5：Kimi分析代码库结构 一次性处理500+文件数量，提高信息处理效率。快速整理大量的资料是很多用户在工作中经常遇到的挑战。随着本次更新，现在Kimi能够一口气精读500个，甚至更多数量的文件，帮助用户快速分析所有文件的内容，并且支持通过自然语言进行信息查询和筛选，大大提高了信息处理效率。 例如，公司HR可以基于业务需求，快速从最近的500份简历中，让Kimi快速找出有某个行业从业经历，同时从计算机类专业毕业的求职者，更加高效地筛选和识别合适的候选人。 图表6：Kimi根据500份简历识别合适的候选人 智能检索能力随无损上下文能力一同升级。Kimi可以根据用户的问题，主动去互联网上搜索、分析和总结最相关的多个页面，生成更直接、更准确的答案。例如，用户可以让Kimi主动去搜索和对比两家同领域上市公司的最新财报数据，直接生成对比表格，节省大量的资料查找时间。而传统的搜索引擎通常只能根据用户的问题，返回一些参杂着广告信息网页链接。 持续研发投入，攻克多技术难点。从20万字到200万字，由于没有采用常规的渐进式提升路线，月之暗面团队遇到的技术难度也是指数级增加的。为了达到更好的长窗口无损压缩性能，研发和技术团队从模型预训练到对齐、推理环节均进行了原生的重新设计和开发，不走“滑动窗口”、“降采样”等技术捷径，攻克了很多底层技术难点。 流量增加超预期，即将上线SaaS优先级策略。根据财联社报道，从3月20日观测到Kimi流量异常增高后，月之暗面已经进行了5次扩容工作。公司的推理资源会持续配合流量进行扩容，以尽量承载持续增长的用户量。此外，月之暗面已经设计了一套更有效的SaaS流量优先级策略，以保障付费用户的调用稳定，预计3月25日之前完成并上线。 2.高精尖研发团队坚定AGI信心，国产模型有望产生持续进步打开应用空间 月之暗面（Moonshot AI）创立于2023年3月，致力于寻求将能源转化为智能的最优解，通过产品与用户共创智能。创始团队核心成员参与了Google Gemini、Google Bard、盘古NLP、悟道等多个大模型的研发，多项核心技术被Google PaLM、Meta LLaMa、Stable Diffusion等主流产品采用。截止至2023年10月，Moonshot AI融资超2亿美元。 Moonshot AI创始人杨植麟是全球大模型领域里最被认可的华人技术专家，其团队在人工智能技术，特别是大语言模型LLM领域拥有深厚的技术积累，并已在国际上获得了广泛认可。眼下，美国硅谷的OpenAI和Anthropic等公司获得了多方关注，实际上在国内，拥有足够多技术储备的Moonshot AI也正成长为全球领先的AGI初创公司。 根据杨植麟分享，月之暗面在实现长文本之后的两个主要计划是：1）真正的统一的世界模型，能统一各种不同模态、真正可扩展、通用的系统结构；2）实现能在没有人类数据输入的情况下，使AI持续进化。预计未来2-3年，甚至更快时间实现。 GPT-4是AGI的必经之路，Kimi或将较快实现。杨植麟在采访中分享，当下，实现GPT-4的是国内AGI发展的必经之路。但核心是，不能只满足做到GPT-4的效果。尽管具体时间线无法披露，但杨植麟预计月之暗面很快就能达到GPT-4的能力。 长文本技术相较GPT-4进一步“升维”。杨植麟认为，实现长文本处理技术和追赶GPT-4技术并不可复用，因为其本质是GPT-4没有的新的维度。国内厂家一方面需要提升综合能力，另一方面则可以在很多空间产生独特的新能力、在新的方向做到世界领先，而长文本就是这样的方向之一。 AGI正处于技术爆发期，海内外实际差距在缩小。杨植麟认为，现在正处于技术爆发期。 OpenAI一直在做下一代模型，且海内外的差距客观上会持续存在一段时间，甚至在国内不同公司之间的差距也会持续一。但展望两三年后的未来，随着中国顶尖的公司做好更多的基础性工作，包括技术的基建、人才的储备和组织文化的沉淀，更有可能在某一些方面出现领先的可能性——但需要一定的耐心。 展望2024年的大模型发展：杨植麟认为1）在全球大模型产业，今年还会有更多功能出现，但格局不会跟今天有太大差别，领先玩家会维持不变。从能力来说，今年下半年会有一些比较大的突破，很多会来自OpenAI可能推出的下一代模型。多模态方面，视频的生成模型肯定还能继续拓展。2）在国产大模型产业，一方面可以看到新的独特能力产生。随着前期的投入和合适的团队，国产模型可以在某一些维度做出世界领先的能力。 另一方面，预计今年大概率会出现更多用户量级更大的产品，实现进一步的对市场的整合和路线选择的分化。 投资建议 算力侧：中科曙光、浪潮信息、海光信息、利通电子、浙文互联、云赛智联、高新发展、中际旭创、新易盛、工业富联、寒武纪、神州数码、恒为科技、软通动力、润建股份、万马科技、拓维信息、烽火通信等。 AI相关：金山办公、大华股份、福昕软件、海康威视、昆仑万维、拓尔思、科大讯飞、万兴科技、润达医疗、开普云、中广天择、漫步者、紫天科技。 风险提示 AI技术迭代不及预期：若AI技术迭代不及预期，则对产业链相关公司会造成一定不利影响。 经济下行超预期：若宏观经济景气度下行，固定资产投资额放缓，影响企业再投资意愿，从而影响消费者消费意愿和产业链生产意愿，对整个行业将会造成不利影响。 行业竞争加剧：若相关企业加快技术迭代和应用布局，整体行业竞争程度加剧，将会对目前行业内企业的增长产生威胁。