关于可信智能决策的一些思考和尝试

可信智能决策的框架

主要内容及关键点：

1. 决策的重要性：

   • 决策比预测更具影响性。
   • 涉及广泛的应用场景，如推荐系统、定价算法、医疗决策等。

2. 常用做法：

   • 使用模拟器进行决策，但效果依赖于模拟器的准确性。
   • 使用预测进行决策，但预测准确性取决于独立同分布假设的满足程度。
   • 给定决策变量优化取值，以求最优决策变量，但可能导致分布外泛化问题。

3. 决策的复杂性：

   • 来源于社会性和经济性因素。
   • 包括算法公平性、大数据杀熟、信息茧房等问题。

4. 可信智能决策框架：

   • 反事实推理：包括策略平均效果评估、策略个体效果预测和策略优化。
   • 复杂收益：考虑决策带来的多方面影响。
   • 预测公平性：确保决策系统的公平性。

5. 具体方法和技术：

   • 反事实推理：
     • 策略平均效果评估：通过离线数据评估策略的效果，比A/B测试更现实和经济。
     • 样本加权方法：如FCB（Focused Context Balancing），通过加权调整样本分布，提高模型的稳健性。
   • 复杂收益：
     • 考虑消费者的选择模型，解决多购买场景下的产品排名问题。
     • 使用UCB（Upper Confidence Bound）算法平衡探索和利用，实现长期总收入的最佳性能。
   • 预测公平性：
     • 使用敏感属性（如性别、种族）确保决策的公平性。
     • 传统公平性指标（如群体公平性、平等机会）存在的局限性。

6. 实验验证：

   • 多种方法和技术在合成数据和半合成数据上的实验结果表明，所提出的方法具有更好的性能和稳定性。

通过上述框架和方法，可以提高决策的可信度和效果，使其更加适应复杂的社会和经济环境。