模型观点更新 GPT-6实际的变化发生在后训

更好的RL使思维链又短又好

• GPT-6并未采用新架构（如Loop transformer），但其思维链（COT）表现出更短的长度和更高的信息密度。
• 过去通过写COT提升模型计算深度，而此次OpenAI通过优化RL大幅缩短COT长度，在保持推理能力的同时降低成本，并有助于图像理解等抽象任务。

蒸馏依旧可行，但无法缩小国内外RL差距

• 思维链COT的信息密度高，蒸馏仍可应用，但国内与海外在RL优化上存在较大差距。

Computer Use和专业工具软件成为新场景

• 近半年预训练多模态数据占比提升（最高达40%），Computer Use能力持续增强。
• 模型尝试驾驭CAD、EDA等专业工具，通过生成可编辑代码文件（如CAD文件）实现终端展示，已攻克简单结构件设计，但整体设备设计仍需提升。
• 模型创意需求无限，专业工具软件预期需求量将大增。

模型规模与训练参数估算

• 若以10万卡算力消耗测算，GPT-6可能是5万亿参数规模、200万亿训练数据、3个月训练的模型。

研究结论

• 2024年9月GPT-O1通过长COT提升推理正确率，Astra则在确保正确率基础上大幅缩减COT长度，属于降本革命。
• 多模态能力结合效果待观察。