AI行业跟踪28期：CriticGPT用AI训练AI，美光发布最新财报

证券研究报告2024年07月01日 CriticGPT用AI训练AI，美光发布最新财报 AI行业跟踪28期（20240624-20240628） 核心结论 分析师陈彤S0800522100004chentongg@research.xbmail.com.cn 行业要闻追踪 OpenAI发布最新模型CriticGPT，旨在捕捉ChatGPT输出中的错误。OpenAI正在人类反馈强化学习（RLHF）中应用该模型，以帮助人类监督AI完成复杂任务。CriticGPT基于GPT-4接受了RLHF训练，其训练思路与GAN网络类似，数据中包含大量的错误输入用以提高模型性能。CriticGPT的成功意味着向可扩展监督，也就是用弱模型监督训练更强的模型迈出了重要的一步，在未来可能进一步推动人工智能能力的提高，在应用落地方面可应用在软件测试、代码生成等领域。 相关研究 通信：Anthropic新模型能力攀升，华为发布HarmonyOS NEXT—AI行 业 跟 踪27期（20240617-20240621）2024-06-24 通信：苹果WWDC24召开，博通业绩超预期—AI行业跟踪26期（20240610-20240614）2024-06-16通信：Computex 2024百花齐放，Mamba架构 第 二 代 发 布—AI行 业 跟 踪25期（20240603-20240607）2024-06-13 美光（MU.O）于北京时间2024年6月27日早的美股盘后发布了2024财年第三季度财报（截止2024年5月），经调整营收68.1亿美元，同比增长81.5%，但对第四季度预计不及市场预期，当日股价下跌8%。第三财季美光的DRAM收入环比增长13%，达到47亿美元；NAND Flash收入环比增长32%；数据中心SSD收入环比提高一倍，数据中心收入环比增长超50%。AI带动下公司的AI相关产品份额提升，如HBM、大容量内存条和数据中心SSD等。 行情回顾 本周(06.24-06.28)，我们构建的西部AI股票池中，108家A股公司整体周平均跌幅3.06%，53家美股公司整体周平均涨幅2.64%。A股市场中本周(06.24-06.28)涨幅居前五的个股分别是中文在线(+13.34%)、当虹科技(+12.47%)、亚通股份(+7.54%)、掌阅科技(6.81%)、鹏鼎控股(+4.91%)。美 股 市 场 中 本 周(06.24-06.28)涨 幅 居 前 五 的个 股 分 别 是BuzzFeed(+29.58%)、BigBear.aiHoldings(+17.05%)、CREDOTECHNOLOGY(+16.19%)、Chegg(+10.88%)、Sprinklr（+10.19%)。 投资建议：AIGC和数字中国共振，算力托底。建议重点关注AI算力硬件，关注光模块（中际旭创、天孚通信、源杰科技等）；散热领域（英维克）及ICT设备商等。 AI应用的发展是影响AI板块估值的核心矛盾。在AI产业高速成长初期，投资逻辑上来看核心关注应用端增量需求的创造，投资节奏来看，前期是算力基础设施建设和大模型训练先行，后期重点关注应用持续强化带来机会。 风险提示：技术落地不及预期、硬件设备市场接受度不及预期、监管政策风险、中美贸易摩擦风险。 内容目录 一、AI行业重点事件点评.....................................................................................................31.1 OpenAI发布基于GPT-4的新模型CriticGPT，用AI训练AI.....................................31.2美光FY24Q3财报发布，营收同比高速增长..............................................................7二、AI行业动态一览.............................................................................................................92.1国外行业动态..............................................................................................................92.2国内行业动态............................................................................................................102.3行业展会/大会前瞻梳理............................................................................................11三、AI行情回顾：美股高速serdes涨幅明显，其他板块呈不同涨跌幅.............................11四、投资建议：持续关注AI应用和算力基础设施..............................................................12五、风险提示......................................................................................................................12 图表目录 图1：CriticGPT使用示例.....................................................................................................3图2：识别和标记代码错误能力.............................................................................................4图3：人类和CriticGPT工作效果分析...................................................................................4图4：CriticGPT训练流程.....................................................................................................5图5：CriticGPT在艰巨任务上帮助有限................................................................................6图6：FY20Q1-FY24Q3单季度营收及同、环比增速（亿美元；%；%）....................................7图7：FY20Q1-FY24Q3单季度净利润及同、环比增速（亿美元；%；%）................................7图8：2020-2024年度前三季度营业收入和毛利关系（亿美元）...........................................8图9：2023-2024年度各季度销售收入与毛利关系（亿美元）...............................................8图10：HBM3E结构图..............................................................................................................9图11：2500 NVMeTMSSD图示.................................................................................................9图12：A股AI行业细分板块周涨跌幅对比(06.24-06.28)....................................................12图13：美股AI行业细分板块周涨跌幅对比(06.24-06.28)...................................................12 一、AI行业重点事件点评 1.1OpenAI发布基于GPT-4的新模型CriticGPT，用AI训练AI 事件：6月28日凌晨，OpenAI在其官网发布了最新模型CriticGPT。该模型基于GPT-4训练，旨在捕捉ChatGPT输出中的错误。OpenAI正在人类反馈强化学习（RLHF）中应用该模型，以帮助人类监督AI完成复杂任务。 点评： 亮点1：模型用途多样，审查代码准确率提高60%。 OpenAI认为，目前部署的最强大的人工智能系统都是通过人类反馈强化学习(RLHF)进行训练的。这是基于人类评估人工智能输出通常比展示理想输出更快、更容易的基础事实决定的。然而，随着模型变得越来越强大，模型未来将达到即使是经验丰富的专家也无法可靠地评估其输出的质量或正确性。这种预测的人类评估缺陷是RLHF的一个根本限制。 为了提高人类的评估能力并克服这一限制，OpenAI团队开发了CriticGPT，这是一个基于GPT-4的模型，经过专门训练可以对代码和其他AI输出进行批评性评估，起到提升RLHF流程的质量的作用。 CriticGPT的使用流程和ChatGPT十分近似。接收一个问题和相应的回答作为输入，然后生成一个评论，指出回答中的具体错误。评论的结构通常包含多个部分，每个部分都针对原始回答中的特定内容进行评论，这种方法允许CriticGPT提供详细和针对性的反馈，有助于识别和解释AI生成内容中的潜在问题。 资料来源：量子位，西部证券研发中心 CriticGPT的功能主要面向三个方面： 1、错误检测：CriticGPT可以快速识别模型输出中的错误，帮助开发者及时发现并解决问题。主要面向的问题是GPT提供的代码和回答的幻觉问题。 2、性能评估：CriticGPT可以对模型的性能进行全面评估，包括准确性、鲁棒性、泛化能力等，帮助开发者了解模型的优缺点。 3、优化建议：CriticGPT会根据评估结果，提供针对性的优化建议，帮助开发者提高模型的性能。并根据用户的偏好和行为模式，提供更加个性化的服务和建议。 资料来源：网猫科技屋，西部证券研发中心 资料来源：量子位，西部证券研发中心 从模型效果来看， 1、在发现人为插入的bug方面，人类审核员平均只能找到25%，而CriticGPT的成功率高达75%以上。 2、在评估自然出现的Bug时，有63%的情况下人类更倾向于选择CriticGPT的评论而非人类评论。 3、CriticGPT的评论被认为比ChatGPT的更全面，更少出现”幻觉”和无关紧要的挑剔。如果通过CriticGPT获得帮助审查ChatGPT编写的代码，人类训练师的审查效果比没有获得帮助的人强60%。 4、在评估非代码任务时，成功识别出数百个在ChatGPT训练数据中被人类认为是“完美”的错误。 亮点2：针对RLHF改进，利用插入错误方法训练。 CriticGPT的训练基于GPT-4，也接受了RLHF训练，但特别之处在于训练数据中包含大量的错误输入。具体来看分为四步： 1、人类评估员对ChatGPT生成的结果进行修改，故意引入一些不易