幻方梁文锋20240718

幻方梁文锋 价格战第一枪是怎么打响的？ Q：DeepSeekV2模型发布后，迅速引发一场血雨腥风的大模型价格战，有人说你们是行业的一条鲶鱼。 梁文锋：我们不是有意成为一条鲶鱼，只是不小心成了一条鲶鱼。Q：这个结果让你们意外吗？ 梁文锋：非常意外。没想到价格让大家这么敏感。我们只是按照自己的步调来做事，然后核算成本定价 。我们的原则是不贴钱，也不赚取暴利。这个价格也是在成本之上稍微有点利润。Q：5天后智谱AI就跟进了，之后是字节、阿里、百度、腾讯等大厂。 梁文锋：智谱AI降的是一个入门级产品，和我们同级别的模型仍然收费很贵。字节是真正第一个跟 进的。旗舰模型降到和我们一样的价格，然后触发了其它大厂纷纷降价。因为大厂的模型成本比我们高很多，所以我们没想到会有人亏钱做这件事，最后就变成了互联网时代的烧钱补贴的逻辑。 Q：外部看来，降价很像在抢用户，互联网时代的价格战通常如此。 梁文锋：抢用户并不是我们的主要目的。我们降价一方面是因为我们在探索下一代模型的结构中，成本先降下来了，另一方面也觉得无论API，还是AI，都应该是普惠的、人人可以用得起的东西。 Q：在这之前，大部分中国公司都会直接copy这一代的Llama结构去做应用，为什么你们会从模型结构切入？ 梁文锋：如果目标是做应用，那沿用Llama结构，短平快上产品也是合理选择。但我们目的地是AGI，这意味着我们需要研究新的模型结构，在有限资源下，实现更强的模型能力。这是scale up到更大模型所需要做的基础研究之一。除了模型结构，我们还做了大量其他的研究，包括怎么构造数据，如何让模型更像人类等，这都体现在我们发布的模型里。另外，Llama的结构，在训练效率和推理成本上，和国外先进水平估计也已有两代差距。 Q：这种代差主要来自哪里？ 梁文锋：首先训练效率有差距。我们估计，国内最好的水平和国外最好的相比，模型结构和训练动力学上可能有一倍的差距，光这一点我们要消耗两倍的算力才能达到同样效果。另外数据效率上可能也有一倍差距，也就是我们要消耗两倍的训练数据和算力，才能达到同样的效果。合起来就要多消耗4倍算力。我们要做的，正是不停地去缩小这些差距。 Q：大部分中国公司都选择既要模型又要应用，为什么DeepSeek目前选择只做研究探索？ 梁文锋：因为我们觉得现在最重要的是参与到全球创新的浪潮里去。过去很多年，中国公司习惯了别人做技术创新，我们拿过来做应用变现，但这并非是一种理所当然。这一波浪潮里，我们的出发点，就不是趁机赚一笔，而是走到技术的前沿，去推动整个生态发展。 Q：互联网和移动互联网时代留给大部分人的惯性认知是，美国擅长搞技术创新，中国更擅长做应用 。 梁文锋：我们认为随着经济发展，中国也要逐步成为贡献者，而不是一直搭便车。过去三十多年IT浪潮里，我们基本没有参与到真正的技术创新里。我们已经习惯摩尔定 律从天而降，躺在家里18个月就会出来更好的硬件和软件。ScalingLaw也在被如此对待。 但其实，这是西方主导的技术社区一代代孜孜不倦创造出来的，只因为之前我们没有参与这个过程，以至于忽视了它的存在。 真正的差距不是一年或两年，而是原创和模仿之差Q：为什么DeepSeekV2会让硅谷的很多人惊讶？ 梁文锋：在美国每天发生的大量创新里，这是非常普通的一个。他们之所以惊讶，是因为这是一个中国公司，在以创新贡献者的身份，加入到他们游戏里去。毕竟大部分中国公司习惯follow，而不是 创新。 Q：但这种选择放在中国语境里，也过于奢侈。大模型是一个重投入游戏，不是所有公司都有资本只去研究创新，而不是先考虑商业化。 梁文锋：创新的成本肯定不低，过去那种拿来主义的惯性也和过去的国情有关。但现在，你看无论中国的经济体量，还是字节、腾讯这些大厂的利润，放在全球都不低。我们创新缺的肯定不是资本，而是缺乏信心以及不知道怎么组织高密度的人才实现有效的创新。 Q：为什么中国公司——包括不缺钱的大厂，这么容易把快速商业化当第一要义？梁文锋：过去三十年，我们都只强调赚钱，对创新是忽视的。创新不完全是商业驱动的，还需要好奇心和创造欲。我们只是被过去那种惯性束缚了，但它也是阶段性的。Q：但你们究竟是一个商业组织，而非一个公益科研机构，选择创新，又通过开源分享出去，那要在哪里形成护城河？像5月这次MLA架构的创新， 也会很快被其他家copy吧？ 梁文锋：在颠覆性的技术面前，闭源形成的护城河是短暂的。即使OpenAI闭源，也无法阻止被别人赶超。所以我们把价值沉淀在团队上，我们的同事在这个过程中得到成长，积累很多know-how，形成可以创新的组织和文化，就是我们的护城河。 开源，发论文，其实并没有失去什么。对于技术人员来说，被follow是很有成就感的事。其实 ，开源更像一个文化行为，而非商业行为。给予其实是一种额外的荣誉。一个公司这么做也会有文化的吸引力。 Q：你怎么看类似朱啸虎的这种市场信仰派观点？ 梁文锋：朱啸虎是自洽的，但他的打法更适合快速赚钱的公司，而你看美国最赚钱的公司，都是厚积薄发的高科技公司。 Q：但做大模型，单纯的技术领先也很难形成绝对优势，你们赌的那个更大的东西是什么？ 梁文锋：我们看到的是中国AI不可能永远处在跟随的位置。我们经常说中国AI和美国有一两年 差距，但真实的gap是原创和模仿之差。如果这个不改变，中国永远只能是追随者，所以有些探索 也是逃不掉的。 英伟达的领先，不只是一个公司的努力，而是整个西方技术社区和产业共同努力的结果。他们能看到下一代的技术趋势，手里有路线图。中国AI的发展，同样需要这样的生态。很多国产芯片发展不起来 ，也是因为缺乏配套的技术社区，只有第二手消息，所以中国必然需要有人站到技术的前沿。更多的投入并不一定产生更多的创新□Q：现在的DeepSeek有一种OpenAI早期的 理想主义气质，也是开源的。后边你们会选择闭源吗？OpenAI和Mistral都有过从开源到闭源的过程。 梁文锋：我们不会闭源。我们认为先有一个强大的技术生态更重要。 Q：你们有融资计划吗？看有媒体报道，幻方对DeepSeek有独立拆分上市的计划，硅谷的AI创业公司，最终也都难免要和大厂绑定。 梁文锋：短期内没有融资计划，我们面临的问题从来不是钱，而是高端芯片被禁运。Q：很多人认为 ，做AGI和做量化是完全不同的两件事，量化可以闷声去做，但AGI可能更需要高举高打，需要结盟，这样可以让你的投入变大。 梁文锋：更多的投入并不一定产生更多的创新。否则大厂可以把所有的创新包揽了。Q：你们现在不做应用，是因为你们没有运营的基因吗？ 梁文锋：我们认为当前阶段是技术创新的爆发期，而不是应用的爆发期。长远来说，我们希望形成一种生态，就是业界直接使用我们的技术和产出，我们只负责基础模型和前沿的创新，然后其它公司在DeepSeek的基础上构建toB、toC的业务。如果能形成完整的产业上下游，我们就没必要 自己做应用。当然，如果需要，我们做应用也没障碍，但研究和技术创新永远是我们第一优先级。Q：但选择API的话，为什么选择DeepSeek，而不是大厂？ 梁文锋：未来的世界很可能是专业化分工的，基础大模型需要持续创新，大厂有它的能力边界，并不一定适合。 Q：但技术真的可以拉开差距吗？你也说过并不存在绝对的技术秘密。 梁文锋：技术没有秘密，但重置需要时间和成本。英伟达的显卡，理论上没有任何技术秘密，很容易复制，但重新组织团队以及追赶下一代技术都需要时间，所以实际的护城河还是很宽。 Q：你们降价后，字节率先跟进，说明他们还是感受到某种威胁。你怎么看创业公司与大厂竞争的新解法？ 梁文锋：说实话我们不太care这件事，只是顺便做了这件事。提供云服务不是我们的主要目标。我们的目标还是去实现AGI。 目前没有看到什么新解法，但大厂也没有明显占优。大厂有现成的用户，但它的现金流业务也是它的包袱，也会让它成为随时被颠覆的对象。 Q：你怎么看DeepSeek之外的6家大模型创业公司的终局？ 梁文锋：可能活下来2到3家。现在都还处在烧钱阶段，所以那些自我定位清晰、更能精细化运营 的，更有机会活下来。其它公司可能会脱胎换骨。有价值的东西不会烟消云散，但会换一种方式。Q：幻方时代，面对竞争的姿态就被评价为“我行我素”，很少在意横向比较。关于竞争，你思考的原点是什么？ 梁文锋：我经常思考的是，一个东西能不能让社会的运行效率变高，以及你能否在它的产业分工链条上找到擅长的位置。只要终局是让社会效率更高，就是成立的。中间很多都是阶段性的，过度关注必然眼花缭乱。 一群做“高深莫测”事的年轻人□Q：OpenAI前政策主管、Anthropic联合创始人JackClark认为DeepSeek雇佣了“一批高深莫测的奇才”，做出DeepS eekv2的是怎样一群人？ 梁文锋：并没有什么高深莫测的奇才，都是一些Top高校的应届毕业生、没毕业的博四、博五实习生，还有一些毕业才几年的年轻人。 Q：很多大模型公司都执着地去海外挖人，很多人觉得这个领域前50名的顶尖人才可能都不在中国的公司，你们的人都来自哪里？ 梁文锋：V2模型没有海外回来的人，都是本土的。前50名顶尖人才可能不在中国，但也许我们能自己打造这样的人。 Q：这次MLA创新是如何发生的？听说idea最早来自一个年轻研究员的个人兴趣？梁文锋 ：在总结出Attention架构的一些主流变迁规律后，他突发奇想去设计一个替代 方案。不过从想法到落地，中间是一个漫长的过程。我们为此组了一个team，花了几个月时间才跑通。 Q：这种发散性灵感的诞生和你们完全创新型组织的架构很有关系。幻方时代，你们就很少自上而下地指派目标或任务。但AGI这种充满不确定性的前沿探索，是否多了管理动作？ 梁文锋：DeepSeek也全是自下而上。而且我们一般不前置分工，而是自然分工。每个人有自 己独特的成长经历，都是自带想法的，不需要push他。探索过程中，他遇到问题，自己就会拉人讨论。不过当一个idea显示出潜力，我们也会自上而下地去调配资源。 Q：听说DeepSeek对于卡和人的调集非常灵活。 梁文锋：我们每个人对于卡和人的调动是不设上限的。如果有想法，每个人随时可以调用训练集群的卡无需审批。同时因为不存在层级和跨部门，也可以灵活调用所有人，只要对方也有兴趣。 Q：一种松散的管理方式也取决于你们筛选到了一批强热爱驱动的人。听说你们很擅长从细节招人，可以让一些非传统评价指标里优秀的人被选出来。 梁文锋：我们选人的标准一直都是热爱和好奇心，所以很多人会有一些奇特的经历，很有意思。很多人对做研究的渴望，远超对钱的在意。 暗涌：transformer诞生在谷歌的AILab，ChatGPT诞生在OpenA I，你觉得大公司的AILab和一个创业公司对于创新产生的价值有什么不同？ 梁文锋：不管是Google实验室，还是OpenAI，甚至中国大厂的AILab，都很有价值的。最后是OpenAI做出来，也有历史的偶然性。 Q：创新很大程度也是一种偶然吗？我看你们办公区中间那排会议室左右两侧都设置了可以随意推开的门。你们同事说，这就是给偶然留出空隙。transfomer诞生中就发生过那种偶然经过的 人听到后加入，最终把它变成一个通用框架的故事。 梁文锋：我觉得创新首先是一个信念问题。为什么硅谷那么有创新精神？首先是敢。 Chatgpt出来时，整个国内对做前沿创新都缺乏信心，从投资人到大厂，都觉得差距太大了，还是做应用吧。但创新首先需要自信。这种信心通常在年轻人身上更明显。 Q：但你们不参与融资，很少对外发声，社会声量上肯定不如那些融资活跃的公司，怎么确保DeepSeek就是做大模型的人的首选？ 梁文锋：因为我们在做最难的事。对顶级人才吸引最大的，肯定是去解决世界上最难的问题。其实，顶尖人才在中国是被低估的。因为整个社会层面的硬核创新太少了，使得他们没有机会被识别出来。我们在做最难的事，对他们就