一、端侧大模型
- 发展趋势：端侧大型语言模型（LLMs）在人工智能领域发展迅速，从2023年起，参数量低于10B的模型系列如Meta的LLaMA、Microsoft的Phi系列等涌现，验证了LLMs在边缘设备上运行的可行性和重要性。
- 模型架构：LLMs主要基于Transformer架构发展而来，包括传统文本大型语言模型和多模态大型语言模型。多模态模型可以同时处理文本、图像、声音等多种模态。
- 性能指标：评估端侧大语言模型的性能指标包括延迟、推理速度、内存使用以及存储和能耗。
- 硬件技术：端侧大语言模型的部署需要GPU、NPU和FPGA等硬件技术支持。
- 市场规模：端侧AI市场的全球规模正以惊人的速度增长，预计从2022年的152亿美元增长到2032年的1436亿美元。
二、近存计算
- 技术分类：存算一体技术可分为近存计算（PNM）、存内处理（PIM）以及存内计算（CIM）。
- 技术路径：根据存储单元与计算单元融合的程度，可以分为近存计算和存内计算两类，并按照存储器件工艺划分不同的技术路线，如基于SRAM、DRAM、Flash等成熟存储工艺，以及ReRAM、MRAM、PCRAM、FeRAM等新型存储工艺。
三、NPU
- 技术特点：NPU是专为机器学习工作负载设计的专用芯片，能够高效地处理AI计算中的大量神经网络推理和训练任务，具有功耗低、性能优等特点。
- 应用场景：NPU在智能手机SoC、AIPC和AI笔记本电脑等领域得到广泛应用。
- 发展趋势：NPU随着新AI用例、模型和需求的发展不断演进，支持处理多样性的异构计算架构能够发挥每个处理器的优势。
四、DRAM技术发展路径
- 技术趋势：DRAM技术发展趋势包括制程技术的持续微缩、3DDRAM架构的兴起、高性能内存标准的演进、高带宽内存（HBM）的发展、新型材料与工艺的应用，以及定制化与细分市场的发展。
- 关键技术：3DDRAM架构通过垂直堆叠存储单元，能够在不增加芯片面积的情况下显著提高存储密度。新型材料如IGZO（氧化铟镓锌）和相变材料的应用，将有助于降低DRAM的功耗并提升性能。
五、先进封装
- 技术分类：先进封装技术分为基于XY平面延伸的先进封装技术和基于Z轴延伸的先进封装技术。
- 关键技术：基于XY平面延伸的先进封装技术主要通过RDL进行信号的延伸和互连，如FOWLP、FOPLP和EMIB等。基于Z轴延伸的先进封装技术主要通过TSV进行信号延伸和互连，如CoWoS、HBM、HMC、Wide-IO、Foveros、Co-EMIB(Foveros+ EMIB)、SoIC、X-Cube等。
六、定制化存储：华邦CUBE介绍
- 技术特点：华邦电子开发的创新型CUBE（CustomizedUltraBandwidthElement，定制化超高带宽元件）技术，作为客制化的高宽带存储芯片3DTSVDRAM，专门为边缘AI运算装置所设计的存储架构，利用3D堆叠技术并结合异质键合技术以提供高带宽、低功耗、单颗256Mb至8Gb的存储芯片。
- 制造工艺：CUBE由联电推动，联电负责CMOS晶圆制造和晶圆对晶圆混合封装技术，华邦电导入客制化CUBE架构，智原提供全面的3D先进封装一站式服务，以及存储IP和ASIC小芯片设计服务，日月光则提供晶圆切割、封装和测试服务，另外还有Cadence负责晶圆对晶圆设计流程，提取TSV特性和签核认证。
- 技术优势：CUBE具有出色的能效，在D20工艺中功耗低于1pJ/bit，IO速度于1KI/O可高达2Gbps，提供从16GB/s至256GB/s的总带宽，并且可供模组制造商和SoC厂商直接部署。
七、相关标的
- 兆易创新：设立青耘科技推动定制化存储方案，收购苏州赛芯，增强模拟产品能力，调整募投项目发展方向及资金投入，前瞻布局LPDDR5和汽车MCU。
- 瑞芯微：持续推进NPU助力端侧AI，持续迭代自研核心IP，各AIoT算力平台快速增长。
- 芯原股份：NPU IP赋能端侧AI，积极布局智慧汽车、AR/VR等增量市场。
- 寒武纪：深度布局自研全场景NPU，实现全系芯片标配NPU，为边端AI部署提供坚实的基座。
- 北京君正：持续进行NPU技术研发，不断丰富AI算法类型，安防IPC静待复苏，存储芯片静待拐点。
- 全志科技：深耕AI智能化应用市场，完善产业布局，在智能工业、智能汽车电子和智能终端等领域积极推动新品落地。
- 炬芯科技：三核AI异构芯片赋能端侧AI，存算一体积极拓展新市场，已正式发布最新一代基于SRAM的模数混合存内计算的端侧AI音频芯片。
- 长电科技：提供高端定制化封装测试解决方案和配套产能，聚焦关键应用领域，面向全球市场。
- 通富微电：收并购完善先进封装、专业测试等布局，拟间接持有引线框架供应商AAMI股权加速先进封装布局，收购京隆科技26%股权丰富高端集成电路专业测试布局。
- 华天科技：重点研发先进封装技术和封装产品，2024年度预计实现归母净利润5.5-6.3亿元，同比增长143.02%－178.36%。
- 甬矽电子：晶圆级封装和汽车电子等领域产品线持续丰富，AI助力SOC客户持续成长，盈利能力逐步释放。
- 晶方科技：基于TSV技术持续布局，海外产能积极布局，新技术不断布局。
八、风险提示
