云天励飞(688343)副总裁罗忆-调研纪要

云天励飞副总裁罗忆2023-07-19 罗忆，深圳云天励飞技术股份有限公司副总裁。毕业于南京大学计算机系，曾服务警队，主导上海智能交通系统（ITS）建设，获上海科技进步奖。2014年加入依图担任副总裁，负责依图人工智能技术城市级项目的规模化落地。2021年加入云天励飞，推动算法芯片等创新技术的方案化、产品化和市场化工作，牵引创新技术和行业的深度融合，主导了云天励飞在智慧交通、数字政府、智慧教育等创新行业的落地。 深圳云天励飞技术股份有限公司（688343）成立于2014年8月，是拥有算法、芯片和大数据全栈式能力的人工智能企业。凭借“算法芯片化”的核心能力和“端云协同”的技术路线，云天励飞打造了物联感知汇聚、算法赋能服务、知识图谱构建的全链式核心能力平台，并且在数字城市、人居生活领域成功落地一系列标杆式解决方案，为各行业带来安全、智慧、便捷的AI体验。 作为国内领先的人工智能企业，云天励飞率先提出打造“1+1+N”自进化城市智能体实践框架，积极构建自学习、自进化的数字城市智能协同发展体系，推动人工智能产业快速发展。 云天励飞展出的新一代边缘计算芯片DeepEdge10系列SoC芯片2022年底成功流片，支持多芯粒扩展的Chiplet技术，可提供12TOPS（INT8）整型计算和2TFLOPS（FP16）浮点计算的深度学习推理计算算力，满足市场对处理芯片在算法的多样性、准确性、算力密度及效能方面的要求，预计今年量产投入使用。 此外，云天励飞首次披露大模型“云天天书”的情况。据了解，“云天天书”基础大模型架构包含三个层级：通用大模型、行业大模型、场景大模型。云天励飞基于算法开发平台和算法芯片化平台，并通过高质量数据预训练生产通用大模型；在通用大模型基础上，引入高质量行业数据，生产行业大模型；再在行业大模型基础上，通过细分场景数据微调研发场景大模型。 基于“云天天书”大模型，云天励飞与深圳龙岗政数局共同探索了大模型在政务咨询服务系统的应用，帮助服务人员快速查询和获取准确的信息，减少查阅时间，提高政务服务工作效率。目前该系统在行政服务大厅探索应用，未来计划逐步拓展到其他政府机构和公共服务领域，如法务、金融、教育、医疗、交通等。 值得关注的是，云天励飞是中国电子主导的“自主安全计算产业生态链”的重要支撑单位，目前与中国电子在信创产业生态链的诸多领域展开合作，包括与中国电子飞腾CPU、麒麟OS操作系统完成适配兼 Q：这次世界人工智能大会，云天励飞带来了哪些新品？可否简单介绍下？ 罗忆：这次世界人工智能大会上，我们会带来大模型研发的进展和一些落地案例。同时，去年我们的新一代人工智能芯片DeepEdge10也成功流片，这是一款面向边缘大模型推理的芯片，这次大会上也是第一次亮相。 Q：此次云天励飞将和央企龙头联合发布最新研究进展，您可否介绍一下云天励飞在其中的角色？罗忆：我觉得通用人工智能，包括大模型的发展一定是一件整个产业生态（参与），甚至是国家来参与、主导的事。 如果要讲我们在整个生态中的定位，首先还是要去理清整个大模型的生态和分层的架构。根据我们的理解，从纵向来讲，大模型有各种垂直分 类，包括大家熟知的像ChatGPT在内的NLP垂类大模型，除此以外，像CV以及终极的具身智能、多模态都是一些垂类大模型。从横向分类来讲，这些相对来讲具 有通用泛化技术能力，跨领域跨行业的，我们称之为通用大模型。加入行业知识进行训练，服务垂直行业的，我们称之为行业大模型。具体到某一个行业的某个具体场景，通过一些场景的具体数据进行微调的，称之为场景大模型。基本上是有这样三层的分类。 Q：您怎么看生态在人工智能产业发展中的意义？ 云天励飞在这个过程中积极参与国家整个通用大模型的开源计划，包括支持通过场景和数据去反哺通用大模型。另外，在我们自己擅长的领域的垂类和行业大模型上，我们会去做深耕。 罗忆：我觉得生态是非常重要的，其实我们讲人工智能是第四次工业革命，它本质上是会大大地改进我们的生产效能，对于整个生产力结构，尤其是供给侧会发生大的改变。这样的话，人工智能其实不是一两家公司的事情，而是需要整个行业共同来推进。所以搭建生态、进行一个分层解耦的架构，让更多的厂商参与进来，国家做国家的事情，大厂做大厂的事，同时场景应用的厂商各司其职，才能推进整个产业的繁荣。 Q：今年以来人工智能持续火热，目前国内已经进入了“百模大战”，在这一浪潮中云天励飞有哪些机会？ 罗忆：我觉得现在国家层面的重视、资本层面的追逐推动了整个产业发展，这是好的一面。同时，未来资源也会慢慢趋于理性，趋于更健康的发展。在这个过程中，我们还是会以终为始地来看问题。最终整个技术的发展是为了推动产业、推动社会经济发展、推动人民生活，让人们更好地享受到科技发展的福利。 云天励飞会从三个方面做出自己的贡献。 第一，我们会积极参与国家统筹的通用人工智能的生态联盟之中，通过我们在产业中的实践、数据、知识，去反哺国家层面的发展。 第二，在我们擅长的领域，我们还是会做垂直行业模型，以及基于大模型的垂直应用，通过新的技术帮助我们的客户，包括我们的政府客户降本增效，能够更好地服务产业。 Q：您认为我国大模型下一步的发展方向或趋势有哪些？ 第三，短期的话，我们在训练芯片方面存在短板，但是从整个产业发展来讲的话，未来算法要更好地去应用，还是在于推理芯片。所以我们也会大力推广或建设大模型推理芯片的生态。 罗忆：大模型肯定是会朝着更健康有序的方向发展。就像刚才所讲，我们觉得整个通用人工智能发展其实是国家层面甚至是人类命运共同体的事情。所以对于国家来讲，其实是要在顶层做好规划，然后将产学研资源更好地结合起来，大家共同地去做技术攻关，然后把生态和联盟建设好。 Q：这次世界人工智能大会，您主要关注哪些方面？ 第二，我觉得政府应当更有效地开放场景，这是中国发展人工智能的优势，应更有效地开放给进行技术攻关的企业。同时应大力发展数据要素市场，因为数据是人工智能的养分，数据要素市场和人工智能产业发展是一个相互促进的过程。 罗忆：这次最大的热点肯定还是大模型，对于我们来讲，我们更关注的是各个大模型厂商的进展以及整个生态。基于大模型丰富的应用，我觉得是更多地和同行交流，大家共同去碰撞火花以及去沟通合作共赢，是我们这次来参会的目的。 Q：今年会议相比往年有哪些变化？ 罗忆：相对于过去三年，今年显然是更热闹、人气更旺，而且有更多的国际大厂也来参加我们的人工智能大会，也说明中国在国际的影响力、包括我们的国际朋友圈也越来越壮大。作为一家人工智能厂商，我们非常乐于看到这样的发展趋势。