AI眼镜：多模态大模型的纽北赛道

——多模态大模型的纽北赛道 邢孝慈豆包大模型产品解决方案总监 一、大模型技术发展趋势 大模型技术发展趋势 多模态 长文本 慢思考 AI应用 判断1：大模型对基础设施变革明确，但AI应用依然处在发展初期 判断1：大模型对基础设施变革明确，但AI应用依然处在发展初期 判断2：AI应用逐步从替代工具，到替代服务 判断3：24年调用量在快速发展，25年AI应用市场依然会保持10倍速增长 判断3：24年调用量在快速发展，25年AI应用市场依然会保持10倍速增长 AI应用/AI Agent落地需要打破更多壁垒 构建AI应用/AI Agent的关键路径 二、大模型落地的挑战与应对 挑战1：在业务落地中选择更强的模型 举例：豆包·视觉理解模型 更强内容识别能力 数学、逻辑、代码 图像知识、动作情绪、位置状态、中国传统文化、文字信息 电商营销场景 豆包·视频生成模型，精准语义理解、强大动态及运镜能力 通 过 精 准 语 义 理 解 、 强 大 动 态 及 运 镜 能 力 创 作 高 质 量 视 频 ， 支 持 文 本 和 图 片 生 成 两 种 模 式 应用场景 挑战2：实现成本、延时和性能优化 Context上下文缓存：更快，更省 无须重复对话，即可保留上下文 强劲的系统承载力，是充沛算力、推理层优化、系统调度能力的乘积 充沛的公有云GPU资源池，资源潮汐调度，保障流量高峰业务稳定 海量资源 创建模型接入点后瞬时可用，路由信息持久化保存，即用即达 瞬时可用 分钟级完成千卡扩缩容，有效支撑突发流量和业务高峰，为企业降低成本 极致弹性 挑战3：保障全周期安全可信、会话无痕 数据 唯你可见，唯你所用，唯你所有 01、链路全加密 03、环境强隔离 02、数据高保密 04、操作可审计 保证从用户到方舟安全计算环境之间是“端到端”的加密通信通道，防止用户数据在传输链路中被截获 影响用户数据资产的所有操作均有日志记录，验证安全策略生效，识别潜在风险 实现对用户数据的机密性保护保证用户数据非本人不可见 通过多维度强制隔离，杜绝外部风险入侵和内部数据泄露 密文从安全沙箱直写至分布式存储 网络层的传输加密 应用层的会话加密 支持用户自定义密钥 挑战4：实现算法驱动的自动化Prompting Engineering 实现算法驱动的自动化Prompting Engineering 挑战5：实现基座模型与企业数据和知识的融合 强大的AI搜索+强大的AI推荐，1+1>2 AI搜推，发现更多，推荐更准，搜索无限可能 三、所有的智能硬件都可以用AI重塑一遍 行业痛点 嵌入式AI引擎 嵌入式AI引擎提供了一套端边云一体的AI基础设施，并结合豆包大模型家族、coze、字节应用生态提供场景化业务能力，使客户产品快速实现高质量的AI目标，其主要特性包括： 端侧能力完备，让客户快速具备AI应用场景的各底层基础 极低的资源占用，典型如AI耳机RAM占用低于40KB，让客户在低成本硬件上实现AI也游刃有余 极原生端边云AI通道，快速打通云端场景化的AI服务，一次对接无限扩展 更强的豆包VLM模型，开启IOT视觉理解新时代 更强能力 更强能力 更细腻的能力 细节描述、指令遵循、多种文体创作 图表、数学、逻辑、代码 图像知识、动作情绪、位置状态、中国传统文化、文字信息 记忆能力，让智能硬件越来越懂你 千人千面，个性化服务 记忆越多，情感连接更深 避免模型遗忘，交互稳定 SHOWTIME THANKS