2-5 Alluxio的元数据同步：设计，实现与优化

Alluxio的数据挂载与一致性

Alluxio的核心功能

• 统一数据命名空间：支持多种底层存储系统，如HDFS、NFS、Ceph、Amazon S3等。
• 挂载点：包括根挂载点（在配置文件中定义）和嵌套挂载点（在启动后由指令挂载）。
• 策略化数据管理（PDDM）：通过配置读/写策略和迁移策略来管理数据。

数据一致性

• 元数据一致性：通过元数据时间戳的同步机制或来自UFS的通知机制来保证。
• 数据一致性：依赖于元数据的一致性，如果发现文件内容有变化则更新元数据并抛弃已有数据缓存。

元数据同步

• 同步时机：
  • 每次访问元数据时同步：alluxio.user.file.metadata.sync.interval = 0
  • 定时同步：alluxio.user.file.metadata.sync.interval > 0
  • 不同步：alluxio.user.file.metadata.sync.interval = -1
• 同步方式：
  • 基于时间戳的同步
  • 基于UFS消息的同步（需Alluxio 2.X + Hadoop >2.6.1）

性能优化

• 缓存结果：缓存路径不存在的情况、最近读取过的UFS文件以及文件信息。
• 锁优化：从Alluxio 2.3版本开始，采用基于BFS的方式，提高并发度。
• 调整并行度：通过调整三个配置参数来优化同步性能：alluxio.master.metadata.sync.concurrency.level、alluxio.master.metadata.sync.executor.pool.size 和 alluxio.master.metadata.sync.ufs.prefetch.pool.size。

不同场景的推荐配置

• 文件全部由Alluxio写入：无需元数据同步，提升性能。
• 大部分操作经过Alluxio：根据HDFS的更新频率选择被动同步或Active Sync。
• UFS不经过Alluxio，更新频繁：根据文件的时效性选择Active Sync或基于时间的被动同步。