可信人工智能在大芯片上的实现

本文节选自曲速科技CTO孟海波博士9月3日在2022WAIC“可信人工智能技术与产业化”论坛分享——可信人工智能在大芯片上的实现 人工智能大芯片的最新进展什么是大芯片？ reticlesize是芯片制造中的一个关键概念。芯片的生产要靠光刻机，无论是在台积电还是三星，光刻机掩膜光罩都存在一个类似的极限，也就是生产的芯片尺寸大小的上限——32.xmm*25.xmm，这就是所谓reticlesize。现在是算力为王的年代，芯片公司会推出尽己所能做到性能极致的单芯片产品。一般把800mm^2以上的芯片称为大芯片。 曲速大芯片进展如何？ 前段时间，美国禁止英伟达向中国继续销售A100和H100的AI芯片。而英伟达在人工智能领域是毫无争议的第一，他们在许多大型的系统上都提供了最强的芯片，比如说2017年推出的V100，芯片面积815mm^2；然后在2020年推出了A100以及A40、A30，芯片面积828mm^2；今年3、4月份推出的被禁止向中国销售的H100，814mm^2。而浙江曲速在2021年推出了一款817mm^2的大芯片。 1. 曲速科技产品矩阵？ 曲速科技目前在北京、上海、合肥等地建立了研发中心，具有国际先进水平的计算中心与测试平台，同时其团队在芯片设计和AI算法领域有着深厚的认识和造诣。 1.AIVPU821芯片 曲速科技在2021年中推出了自己的单芯片产品，新一代的人工智能网络安全管理芯片AIVPU821。这颗芯片的单芯片面积817mm^2，一次性流片成功，量产超过10万颗，视频处理延迟小于10ms，可并发处理64路1080p视频，可以进行低延迟、高并发、搞准确性、低功耗的互联网视频数据实时识别与管理。 左图是AIVPU821的版图，下图是封装后与一元硬币的大小对比图，右图是wafer图。做这样顶级的reticlesize的芯片，最先进的12寸晶圆只能出66块芯片，考虑到良率，最终可用的芯片会更少。这既考验设计能力，也考验制造的配合度。 2.芯片到系统 曲速科技的产品涵盖了从芯片到系统，包括AI加速芯片、加速卡、专用服务器以及可信应用软件系统。 （1）加速卡，支持四颗芯片的独立互联。 （2）服务器，主要用于视频安全方面，内置4颗AIVPU821芯片，处理性能相当于20台2U服务器（内置2颗E5-26808核CPU）。在处理每一路高清视频上，曲速的芯片只相当于普通的GPU/X86芯片1%的功耗。 1. 曲速ADAD芯片进展？ 曲速科技将会推出一款完全自主可控的ADAS芯片，单芯片算力800tops，5nm工艺，支持L4/L5自动驾驶；深度挖掘科信技术，部分核心功能硬件化；可信的数据和计算单元，确保系统的鲁棒性、安全性。 曲速科技将开发满足AutoSAR标准的可信开发工具链。AutoSAR在人工智能的应用很多，曲速开发的可信开发工具链将包括可信软件框架；基于国产实时操作系统、协议栈、核心算法库等基础软件；支持对神经网络新品的驱动、编译、链接和调试；同时，曲速会与华东师大的国家工程中心一起研发可信编译器，并将其作为一项重点工作。 曲速科技将在可信编译器上重点做四个方面的工作：模型编译的一致性，编译算法安全性、编译平台安全性和应用平台安全性。 1. 另附曲速GPU进展规划及研发团队介绍