您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[未知机构]:【招商汽车】特斯拉:Dojo超算+大模型,自动驾驶一往无前事件: - 发现报告
当前位置:首页/会议纪要/报告详情/

【招商汽车】特斯拉:Dojo超算+大模型,自动驾驶一往无前事件:

2023-09-18未知机构刘***
【招商汽车】特斯拉:Dojo超算+大模型,自动驾驶一往无前事件:

【招商汽车】特斯拉:Dojo超算+大模型,自动驾驶一往无前 事件: 近日华尔街投行认为Dojo对特斯拉带来高达5000亿美元的价值增量,Dojo相关热度升温,并引发特斯拉股价上涨。 认识Dojo: 1)Dojo,特斯拉内部设计的超级计算平台,用于自动驾驶的AI学习和视觉训练,于2021年AIDay发布,于2023年7月正式生产。2)Dojo采用 【招商汽车】特斯拉:Dojo超算+大模型,自动驾驶一往无前 事件: 近日华尔街投行认为Dojo对特斯拉带来高达5000亿美元的价值增量,Dojo相关热度升温,并引发特斯拉股价上涨。 认识Dojo: 1)Dojo,特斯拉内部设计的超级计算平台,用于自动驾驶的AI学习和视觉训练,于2021年AIDay发布,于2023年7月正式生产。 2)Dojo采用特斯拉自研AI芯片D1,采用台积电7nm工艺。 按照层级划分,每25个D1芯片构成一个训练模组(tiles),每6个训练模组构成一层托盘(Tray),两层托盘构成一个机柜(Cabinets),10个机柜构成DojoExaPOD,整个训练集群提供1.1EFlops(每秒千万亿次浮点运算)的算力。 3)在Dojo之前,特斯拉采用英伟达A100搭建超算平台,用于FSD训练。 马斯克称开发Dojo是因为无法从英伟达采购到足够数量的芯片,且价格过高。 4)D1的参数与A100相近,但后者是通用AI芯片,而D1作为定制化的专用芯片,针对视觉神经网络做了专门的架构设计,可以节省成本、提升效率。 根据特斯拉2022AIDay,25个D1组成的训练组效率比24个A100的训练组提升30倍(5usvs.150us);相比A100,Dojo最高实现3.2倍的自动标注(Auto-labeling)速度,4.4倍的占用网络(OccupancyNetwork)训练速度;原先需要一个月训练时长,Dojo可缩短至一周以内。 5)据特斯拉规划,Dojo将在2024年1月成为全球排名前五的算力设施,并在10月达到100EFlops,相当于30万块英伟达A100的算力规模。马斯克指引2024年将在Dojo投入10亿美元。 点评: 1)大模型的配套:Dojo在7月开始生产,是由于FSDV12的决策规划采用端到端的大模型,带来算力需求的指数级增长。Dojo将降低算力建设成本,提升训练效率。 FSD大模型搭配Dojo,有望巩固在自动驾驶的领先优势。 2)规模化降本:通过自研、前期研发和固定资产投入,降低对供应链的依赖,把握自身发展节奏,再通过规模化和技术复用摊薄成本,是马斯克一直贯彻的理念。 庞大的汽车销量、机器人复用FSD、FSD对外授权、对外提供运算服务等,均利于摊薄成本。 3)IaaS的价值增量:马斯克明确不销售Dojo,但可能通过Dojo对外提供运算服务,带来潜在的IaaS(基础设施即服务)价值增量;例如对外提供机器视觉训练服务,类似亚马逊AWS的算力租赁。