算力租赁资深专家交流-趋势越来越贵–20231030

嘉宾：资深行业专家（猜测是腾讯算力负责人）目前英伟达情况： 出租价格情况：A800为主。个别有H800出租，单卡1.5-2W每月，单卡为1P；A800，0.3P(稠密计算的情况下)；中贝定价合理。长单会有折扣，保底1w每月。 嘉宾：资深行业专家（猜测是腾讯算力负责人）目前英伟达情况： 出租价格情况：A800为主。个别有H800出租，单卡1.5-2W每月，单卡为1P；A800，0.3P(稠密计算的情况下)；中贝定价合理。长单会有折扣，保底1w每月。趋势越来越贵。包含软件服务。 未清关的都不会到货了。L40s比较特殊，部分也已经清关了，在美国属于被淘汰的，因此还在谈判协商。4090消费级，一般不用于计算中心。上市公司一般也不用，怕制裁。 头部：头部云厂商AH卡都不外租，自用都不够。除政府客户外不可能租到。中小云厂面向长尾客户比如汽车行业，医疗等行业 AMD下一步也可能禁止出口，怎么看？国内替代看好哪个？ MI300被禁，高端的。目前接触到的还是HW替代。寒武纪，海光其次。境外实体公司购买卡优势？ 一天200亿美元订单导致缓冲期取消。字节为例海外tic-tok也拿不到。境外白手套公司应该有可能，但是正规渠道不可能了。转售第三方渠道有，但是量不大，初创公司有可能买到。 租赁净利率？ 按照三年或五年的摊薄看，50%净利率左右。 H800，200w一台，摊五年，40万一年，机房机柜电费人工，30-40万；70-80万总成本，但是一年租150万左右（折后）；后续如果涨价净利率还会涨。 稼动率：没有闲置，闲置的基本是P4卡。高端卡算力非常抢手。转HW卡顾虑？ 有量的限制；量不大2周左右现货交。明年拿HW卡也可能比较难，产能有限。目前HW重心是想把昇腾占有率提高。算力公司怎么看？价格趋势？ 中贝实际2000P；据说新到机器，但是也比较难。 恒润，2000P；利通也是。莲花据了解没拿到。英伟达交付15%左右。目前为止不会拿到太多。 未来大家正规渠道都拿不到，走特殊渠道另说。因此租赁价格肯定上涨，非常稀缺。影响到下一代超大规模模型训练，万亿参数级别那种。涨幅也会比较大。 已经有涨价的苗头了。HW卖卡部门很忙。明年租赁涨价30%很简单，50%都有可能，前提是大模型继续发展应用。 目前比较好的应用？创意类如图片视频。电商广告也常用到。非常成功落地的应用没看到。游戏也可以增效，如图片NCP对话等。腾讯ah卡？ A卡上万张；少量H卡。国内初创公司？ 训练千亿参数为了，用英伟达；推理可以用HW310或920B。310性能比较差。大厂一般不租算力租赁公司，涉及数据问题。