您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[华创证券]:AI+专题系列点评(十):月之暗面上下文窗口技术取得新突破,Kimi赋能高效信息交互 - 发现报告
当前位置:首页/行业研究/报告详情/

AI+专题系列点评(十):月之暗面上下文窗口技术取得新突破,Kimi赋能高效信息交互

信息技术2024-03-27吴鸣远华创证券善***
AI+专题系列点评(十):月之暗面上下文窗口技术取得新突破,Kimi赋能高效信息交互

事项: 3月18日,月之暗面在官方微信公众号“Moonshot AI”宣布,Kimi智能助手启动200万字无损上下文内测,短时间内在长上下文窗口技术上再次取得突破。 评论: Kimi在长上下文窗口技术上取得突破。Moonshot AI官微显示,Kimi的无损上下文长度已经从20万汉字提升至200万汉字,目前,国际上的一些知名大模型,如GPT-4 Turbo上下文窗口为12.8万tokens,Kimi的上下文窗口能力已经超越了这些模型,且Kimi具备显著的中文优势。 Kimi功能特点优势明显,目标用户广泛。Kimi具备强大的联网搜索能力和快速总结能力。作为一款AI助手,Kimi具备强大的联网搜索能力,能够帮助用户在海量信息中迅速找到所需的内容。Kimi快速总结能力强悍,过去要10000小时才能成为专家的领域,现在只需要10分钟,Kimi就能接近任何一个新领域的初级专家水平。Kimi具备多轮交互和超长指令遵循能力。Kimi指令遵循能力主要体现在:Kimi在多轮对话中能够始终遵循用户的指令,理解用户的需求,且其能够遵循复杂指令。Kimi目标用户广泛,所有合规开发者和企业均可接入。此举旨在充分发挥Kimi大模型在长文本处理和指令遵循方面的能力,促进产品创新和服务升级,为企业和开发者提供创造新价值的机会。 Kimi不断技术演进,月之暗面“持续登月”随着Kimi技术的不断完善,预计其在终端智能化和垂直行业数据资源方面的应用将更加广泛。月之暗面受到资本青睐,已完成超10亿美金的巨额融资,持续“登月”,登月的第一步是长文本,第二步则会有两个大的milestone。其中之一就是真正的统一各种不同模态的世界模型。关于影响下一步“登月”计划的多模态模型,月之暗面透露他们早在Sora发布之前就在研发多模态大模型,预计今年就会亮相。 投资建议:AI大模型本质应落脚垂类应用,国内大模型正快速追赶美国先进水平,中文大模型的突破有望为下游AI应用注入新的活力,看好AI+应用产品力与商业化落地进程。建议关注以下标的:AI+应用侧:1)安全:永信至诚、深信服;2)办公:金山办公、福昕软件;3)法律:金桥信息、华宇软件、通达海;4)医疗:润达医疗;5)教育:佳发教育、欧玛软件、新开普;6)金融:同花顺、新致软件;7)邮箱:彩讯股份;8)传媒:掌阅科技、华策影视; 9)数据:海天瑞声;10)电商:焦点科技;11)OA:致远互联、泛微网络; 12)ERP:用友网络、金蝶国际;13)硬件:汉王科技。算力侧:1)算力基础:润泽科技、亚康股份、海光信息、寒武纪、龙芯中科;2)服务器:中科曙光、浪潮信息、紫光股份、高新发展、神州数码、拓维信息。 风险提示:商业化后表现不及预期,用户付费意愿低,行业技术迭代速度较快。 一、Kimi实现技术突破,功能特点优势明显 (一)Kimi在长上下文窗口技术上取得突破 Kimi在长上下文窗口技术上取得突破,启动200万字无损上下文内测。MoonshotAI官微显示,Kimi的无损上下文长度已经从20万汉字提升至200万汉字,目前,国际上的一些知名大模型,如GPT-4 Turbo,其上下文窗口为12.8万tokens,Kimi的上下文窗口能力已经超越了这些模型,且Kimi具备显著的中文优势。月之暗面为了达到更好的长窗口无损压缩性能,研发和技术团队从模型预训练到对齐、推理环节均进行了原生的重新设计和开发,不走“滑动窗口”、“降采样”等技术捷径,攻克了很多底层技术难点。这种技术进步为Kimi在多个领域的应用提供了可能,无论是成为特定领域的初级专家,还是作为高效的信息提取工具,Kimi都能较好满足用户的需求。 图表1 Kimi无损上下文长度提升至200万字 (二)Kimi功能特点优势明显,目标用户广泛 Kimi具备强大的联网搜索能力和快速总结能力。作为一款AI助手,Kimi具备强大的联网搜索能力,能够帮助用户在海量信息中迅速找到所需的内容。Kimi可以根据用户的问题,主动去互联网上搜索、分析和总结最相关的多个页面,生成更直接、更准确的答案。 而传统的搜索引擎通常只能根据用户的问题,返回一些掺杂着广告信息网页链接。Kimi快速总结能力强悍,过去要10000小时才能成为专家的领域,现在只需要10分钟,Kimi就能接近任何一个新领域的初级专家水平,官微示例中,公司HR可以快速从500份简历中让Kimi快速找出有某个行业从业经历,同时从计算机类专业毕业的求职者,更加高效地筛选和识别合适的候选人。 Kimi具备多轮交互和超长指令遵循能力。Kimi指令遵循能力主要体现在:Kimi在多轮对话中能够始终遵循用户的指令,理解用户的需求,且其能够遵循复杂指令。官微示例中,Kimi能从长篇小说、故事或剧本中,进行深层细节的挖掘,针对用户的细微复杂需求提取相关蛛丝马迹。 图表2 Kimi快速梳理代码结构 图表3 Kimi快速筛选简历并总结 Kimi目标用户广泛,所有合规开发者和企业均可接入。在最近的市场波动背景下,月之暗面于3月22日对外发表声明强调,平台对所有符合规定的开发者及企业用户开放,允许他们集成Kimi智能助手所使用的先进大模型API到自身的产品或服务中。此举旨在充分发挥Kimi大模型在长文本处理和指令遵循方面的能力,促进产品创新和服务升级,为企业和开发者提供创造新价值的机会。 二、Kimi不断技术演进,月之暗面“持续登月” Kimi不断技术演进,应用领域持续拓宽,激活长文本赛道。2023年10月,Kimi智能助手正式发布,支持20万汉字无损级别上下文输入,成为当时AI消费级产品支持上下文文本长度记录保持者。2024年3月18日,Kimi智能助手在长上下文窗口技术上取得重大进展,无损上下文长度提升至200万字,并启动内测。这一技术突破引发了市场的广泛关注和概念股的集体上涨。Kimi的月活跃用户数(MAU)显著增长,从2023年12月的50.83万增长至2024年2月的298.46万。2024年3月23日,360智脑宣布正式内测500万字长文本处理功能,Kimi的技术突破激活了整个国产大模型市场,促使其他大厂如阿里、360、百度纷纷入局长文本赛道。由于Kimi的访问量暴增,算力运维对于Kimi的运营起到了至关重要的作用,火山引擎为其独家提供AI训练和推理加速解决方案。月之暗面工程副总裁许欣然在媒体沟通会上表示,“无论是内存、算力还是网络带宽,历史上每一次基础技术的升级,都会解锁新的产品形态和应用场景。我们对200万无损上下文的Kimi可以带来哪些超出想象力的创新机遇充满期待。”随着Kimi技术的不断完善,预计其在终端智能化和垂直行业数据资源方面的应用将更加广泛。 图表4 Kimi不断技术演进,激活长文本赛道 月之暗面受资本青睐,技术进展顺利,计划“持续登月”。2023年3月,月之暗面科技有限公司(Moonshot AI)成立,主要业务指向人工通用智能(AGI)。公司由清华大学交叉信息研究院助理教授杨植麟创立,团队成员拥有在旷视科技、Meta等知名科技公司的工作经验。2023年获得了超过2亿美金的资金,投资方包括红杉中国和真格基金等;月之暗面在成立不到一年的时间里,估值已经达到了约25亿美金。公司在2024年2月20日融资中完成了超10亿美金的巨额融资,投资方包括阿里、红杉中国、小红书、美团,砺思资本等老股东跟投,估值达到了约25亿美元。月之暗面透露,他们在Sora发布之前就已经开始研发多模态大模型,预计今年将展示这一成果,这是实现统一不同模态世界的真正通用和可扩展系统结构的关键一步。登月计划的第一步涉及长文本处理,而第二步将包含两个重要的里程碑,其中之一正是此多模态模型的开发。 图表5月之暗面寻求智能最优解