本文探讨了AI发展中的关键问题——缺乏上下文导致的不可靠性，并提出通过构建更完善的上下文模型实现可信AI的解决方案。
核心观点
当前AI系统虽然统计能力强大，但因缺乏对现实世界的理解而难以建立信任。AI的局限并非数据不足，而是缺少对物理、伦理、法律、社会规范等上下文因素的整合能力。未来AI发展将进入以“上下文理解”为核心的第三阶段，通过结合统计学习与结构化知识、因果推理和符号推理，实现更可靠、可解释的智能系统。
关键问题分析
-
上下文缺失导致的问题
- 无法识别基本情境（如自动驾驶汽车未能理解警局场景的危险性）
- 在数据缺失或变化时表现脆弱
- 无法理解人类意图（如LLM生成医学建议但违反临床规范）
- 产生似是而非的幻觉（如用优雅代码编写错误功能的代码生成器）
-
上下文与数据的对比
- 传统AI认为“更多数据=更好AI”，但已出现边际效益递减现象
- 上下文能帮助系统在数据稀疏情况下仍能推理和决策（类比开普勒-牛顿定律优于海量观测数据）
- 上下文提供归纳偏置，防止过度拟合训练数据分布
上下文框架
提出PLANETS框架涵盖七类必要上下文：
- 物理与自然法则（重力、热力学等）
- 价值与伦理（人权、道德原则）
- 法律与监管（知识产权、安全标准）
- 社会与文化规范（礼仪、习俗）
- 技术与基础设施（硬件限制、城市布局）
- 经济因素（供需关系、金融系统）
- 情境信息（当前事件、历史背景）
可信AI的实现路径
-
从统计模型转向混合架构
- 结合LLM与因果模型、符号逻辑等实现更可靠的推理
- 企业需重视语义层（semantic layer）建设，将业务规则、隐性知识显性化
-
因果推理的重要性
- 缺乏因果理解的AI无法区分偶然与必然，无法解释决策逻辑
- 基于因果的AI能以人类可理解的“如果-那么”框架进行推理
-
治理与信任的关联
- 信任源于模型上下文与治理层级的一致性
- 可信AI需满足三个条件：
- 世界模型精确到可指导行为
- 世界模型灵活到可适应变化
- 治理规则基于现实世界概念而非抽象符号
未来展望
- 可信AI将实现从被动生成到主动协作的转变
- 核心衡量标准从“处理能力”转向“与现实世界的连接度”
- 企业需重构AI工作流，将上下文视为核心资产，建立跨领域知识整合机制
- 最终实现AI与人类在现实逻辑层面的共识，从而在规模化应用中获得信任
