字节跳动FaaS的WebAssembly实践

字节跳动 FaaS 的 WebAssembly 实践

字节 FaaS 平台介绍

• 内外场技术统一：一套技术方案面向不同目标用户，包括内场 ByteFaaS 和 ToB veFaaS。
• 内场服务规模：33,000 个线上函数日活（总数 20w+），过去 24h 函数发布次数 5,725 次，1.1m QPS，峰值 150m QPS。
• 运行时对比：
  • 经典 FaaS 运行时：采用 VM/Container 隔离，兼容性好，支持原生二进制，但启动慢（百毫秒到数秒），资源开销高。
  • 轻量级函数运行时：采用轻量隔离方案（WebAssembly/V8 Isolate），启动快（1ms），资源开销低，支持 Go、JavaScript，适用于前端 SSR、BFF、后端 API 等。

WebAssembly 介绍

• WASM 定义：一种可执行格式，提供沙箱环境，轻量、高效、可移植、安全、语言无关。
• 常见应用：提升前端性能、FaaS/Serverless 插件能力、智能合约。
• WASM Runtime：浏览器独立运行时（如 Wasmtime、Lucet、WAMR）。
• Hostcall & WASI：通过 WASI Hostcall 读取环境变量。

字节 FaaS 的 WebAssembly 运行时

• 代码样例：通过 SDK 与运行时交互，无需关心 Hostcall。
• 运行时架构：包括 WASM 运行时引擎、Hostcall（WASI + 拓展）、函数执行调度器、函数实例缓存、WASM Module 缓存、运行时管理。
• 能力拓展：支持收发 HTTP/RPC 请求、监控、日志、服务发现、数据库、消息队列等。
• Hostcall 框架：定义抽象数据交换接口，降低开发运维成本，参考 io_uring 设计。

精简架构

• 请求路径：轻量级函数请求路径更短，响应更迅速。
• 流量调度：相同函数请求复用实例，提升资源利用率，支持函数级别配置调度和限流策略。
• 冷启动优化：通过 curl 示例展示冷启动时间优化效果。
• 合并部署（本地调用）优化：优化前后对比，提升效率。
• 边缘支持：支持只部署中心/边缘机房，或渐进式部署，一套代码一键部署，典型应用包括 URL rewrite、Static serving、BFF 等。
• 存储服务：Global KV（全球同步的最终一致性 KV 存储），Local Cache（单机访问的 KV 存储）。

未来规划

• Component Model：组件化模型。
• Memory Share：本地调用优化。