国君电子【Scaling Law，OpenAI再次领先的核心要素】

国君电子【ScalingLaw，OpenAI再次领先的核心要素】为什么又是OpenAI领先行业？ 对transformer模型的理解以及对scalinglaw的坚持，让OpenAI继ChatGPT之后，在文生视频领域以Sora再次震撼世界。1、继ChatGPT之后，Sora文生视频模型再次引领行业。 2月16日，OpenAI发布扩展视频生成模型S 国君电子【ScalingLaw，OpenAI再次领先的核心要素】为什么又是OpenAI领先行业？ 对transformer模型的理解以及对scalinglaw的坚持，让OpenAI继ChatGPT之后，在文生视频领域以Sora再次震撼世界。1、继ChatGPT之后，Sora文生视频模型再次引领行业。 2月16日，OpenAI发布扩展视频生成模型Sora，根据相同prompt的生成视频对比，Sora在自然语言理解、视频长度、动态能力、人物背景一致性、多角度镜头等多方面均领先同类文生视频模型。 Sora在还未正式开放的情况之下，引起全球范围内广泛的关注与讨论，其生成效果明显领先行业。继ChatGPT之后，Sora模型让OpenAI再次引领行业。 为什么又是OpenAI？ 2、Sora的底层依旧是transformer，scalinglaw仍然是OpenAI的坚持。 根据Sora技术报告，Sora把时空要素提取作为transformer的token进行训练，而transformer在多个领域展示了显著的扩展性能，包括语言建模、计算机视觉和图像生成。 Sora的diffusiontransformer模型在视频领域仍然能够有效的扩展，根据技术报告，随着训练计算量的增加，样本质量在显著提高。 在OpenAI团队找到“良好且通用的数据表示，良好且通用的数据标注，良好且通用的算法”后，不断scaling数据量、算力量、参数量，直至模型涌现出惊人的能力。 为什么又是OpenAI？ 对transformer模型的理解以及对scalinglaw的坚持，让OpenAI继ChatGPT之后，在文生视频领域以Sora再次震撼世界。3、ScalingLaw仍是AGI的可行路径。 Sora的行业领先，再次验证了scalinglaw的技术可行性（甚至是经验公理），模型的能力会随着数据量、算力量的增加而出现涌现。目前的数据量与算力量还远未达到scalinglaw的尽头，并且不论GPT-4还是Sora都还远未服务所有人。 算力是scalinglaw的第一基础，也是Altman7万亿美金AI基建计划的核心。 4、持续推荐AI算力基建，GPU芯片企业海光信息；服务器代工企业工业富联；PCB企业沪电股份。相关公司，寒武纪、高新发展、浪潮信息。