2024算法与AI大模型的用户认知调研报告

研究团队介绍 课题负责人 许可对外经贸大学数字经济与法律创新中心主任程华中国人民大学数字经济研究中心执行主任 课题组成员 杜函聪、范孟月、齐苇杭、尹江陵、卢侃、谢专、王炳浩 对外经济贸易大学数字经济与法律创新研究中心，旨在以前瞻视野和探索精神，跨学科、多维度地研究数字经济法律规律，凝聚各界共识，推动制度变革，从而为我国数字经济发展和数字中国的建立贡献力量。“数字经济与法律创新研究中心”由多家知名企事业机构担任理事单位，中国人民大学信息法中心主任张新宝教授和中国法学会网络和信息法学研究会常务副会长周汉华研究员担任学术委员会联席主席，汇聚经济学、法学、金融学等多学科的研究人员，共同造就国内外一流的数字经济法律研究中心。 中国人民大学数字经济研究中心（CenterforDigitalEconomyResearch，RenminUniversityofChina）是中国人民大学经济学院主办的研究机构。宗旨是跟踪、研究数字经济理论和实践的发展前沿。中心致力于通过原创研究、深度调研、论坛讲座、案例研究、企业与国际合作等一系列活动，来打造一流的数字经济学术交流平台。 蚂蚁集团研究院是蚂蚁集团的专业研究部门，从事宏观经济、监管政策、公司战略和学术理论研究，覆盖数字支付、数字金融、数字科技、ESG_、数据与平台治理、算法与科技伦理、宏观经济等研究领域。通过开展客观、扎实和深入的研究工作，为公司战略决策提供支持，为政府部门公共政策提供参考和研究服务，并通过研究开放平台的搭建，为国内外学术研究和政策研究提供数据、案例等支持。 摘要 ABSTRACT 消费者对于AI大模型和算法的认知水平是影响人工智能行业发展的重要因素，认知程度和使用态度的变化在一定程度影响着人工智能技术的商业化应用速度，从而对我国数字经济发展、数字中国建设产生影响。2024年8月，我们在全国范围内发放了面向消费者的调查问卷，试图了解目前我国消费者关于AI大模型以及算法的认知情况。课题组通过支付宝渠道向用户发放调查问卷，一共回收了8030份有效问卷。基于这些数据，我们得到了如下的结论。 一、关于AI大模型的认知 在基础认知层面，消费者对AI大模型的认识和使用尚未普及，对其内部运作机制也缺乏了解，与此同时，对于AI大模型和算法的拒绝使用权以及可解释性，诉求比较强烈。另一方面，数据还反映出AI大模型正逐步融入人们的学习、工作和日常生活之中，其实用性得到了用户的广泛认可。 在AI大模型的应用方面，消费者持有普遍积极的正向态度，超过半数的受访者选择了进步、创新、高效和便利等具有正向评价的词汇。在与AI大模型的关系上，人们期待更深层次的互动，不仅能够充当工具，还能够进一步成为伙伴关系。但对于AI大模型的普及应用，多数人支持不同领域需进行区别对待。 关于AI大模型的风险和问题，人们普遍认同AI大模型存在风险，但多数人认为风险在可控范围内。人们对AI大模型的具体风险感知是多维的，涵盖了就业、隐私、歧视和政府监管等多个方面，其中超过半数的受访者担心AI不受控制地搜集个人信息以及对人类就业岗位的替代。消费者对目前的AI大模型性能满意度不高，存在一定数据隐私和安全带来的挑战，以及生产结果不够令人满意。 面对AI大模型的风险，公众倾向于采取积极主动的应对措施避免可能受到的权益损害。在向 监管机构和企业进行反馈的同时，自身也会采取主动学习及自我保护等行为。公众普遍认为，为了降低AI大模型的风险，必须采取全面而多元的策略。 二、关于算法认知的变化 我们对2022年问卷和2024年问卷中关于算法认知的问题进行了对比分析，发现： 在算法透明方面，消费者对算法的认知水平有明显提高，对基于个人信息标签的算法推荐，接受程度有所提高。 在算法安全方面，关于算法对消费者权益造成损害的风险感知，尽管整体评价仍偏负面，但这两年有明显的减弱趋势；面对算法可能带来的不利影响，消费者主动的保护意识和能力有所增强。 在算法公平方面，消费者认为存在一些信息扭曲现象，但评价有所好转；算法差别定价行为在整体上有所好转。 在算法向善方面，对于算法自动推荐信息流，正向评价的消费者比例有所提高；受访者普遍认为平台在人性化设计方面有所进步。 目录 CONTENTS 一、前言����������������������������������01 1.1背景������������������������������������������������02 1.2问卷设计理念�������������������������������������������03 二、样本的基本特征������������������������������04 2.1调查对象的性别、年龄和区域分布��������������������������������04 2.2调查对象的学历、职业和收入分布��������������������������������05 三、消费者对AI大模型的认知和态度�����������������������06 3.1用户对算法和AI大模型的基本认知��������������������������������06 3.2用户对使用AI大模型的态度������������������������������������08 3.3用户对AI大模型风险的认知������������������������������������10 3.4针对AI大模型风险的用户策略����������������������������������12 四、与国际社会的对比�����������������������������15 4.1关于青少年对人工智能感知的对比��������������������������������15 4.2关于消费者对生成式AI的认知和态度的对比���������������������������18 五、消费者对算法认知的变化��������������������������23 5.1关于算法透明�������������������������������������������23 5.2关于算法安全�������������������������������������������25 5.3关于算法公平�������������������������������������������26 5.4关于算法向善�������������������������������������������27 附件������������������������������������29 附件1：关于算法与AI大模型消费者认知的调查问卷������������������������29 附件2：联合国针对青少年对AI看法的问卷�����������������������������36 一、前言 在线上世界，企业通过算法嵌入向消费者提供服务几年前就成为一种常态。2022年ChatGPT问世所引发的AI大模型热潮，又使生成式人工智能也成为消费者线上生活和工作中的一种普遍存在。网信办数据显示，截至2024年7月30日，全国范围内已备案AI大模型数量197个，其中70% 是通用大模型，注册登记的用户数量超过6亿。 算法是解决某个问题的方法和步骤的描述，目前常被提到的算法其实是指智能算法，是利用了大数据、人工智能等数字技术构造出来的计算方法，可针对特定问题提供较好的解决方案。人工智能（ArtificialIntelligence，简称AI）是计算机科学的一个分支，是指通过计算机程序或机器来模拟、实现人类智能的技术和方法，使计算机具有感知、理解、判断、推理、学习、识别、生成、交互等类人智能的能力，从而能够执行各种任务。算法和人工智能作为一种颠覆性技术，已逐步渗透到大众生产和生活各个领域。例如，在自动驾驶领域，通过计算机视觉、深度学习等算法，车辆能够在复杂环境中安全行驶；在医疗健康领域，人工智能通过分析医疗图像、患者数据等辅助医生进行疾病预测、诊断和治疗方案优化；在金融服务领域，人工智能被用于风险评估、投资决策、欺诈检测等，以提高金融服务的效率和安全性；在工业制造领域，人工智能通过机器学习和自动化技术优化生产流程、提高生产效率和质量。 虽然，算法和人工智能的应用对生产效率和社会福利的贡献有目共睹，但另一方面，像人类历史上所有新技术的发明和使用一样，用户也对算法应用和AI大模型可能带来的风险表示担心。例如，担心过度搜集数据导致个人隐私安全受到威胁，AI普及导致的失业问题和社会不稳定，以及AI发展引起的伦理道德方面的担忧等。 算法和人工智能的本质是一种工具，工具本身不具备思想和价值判断，使用算法和人工智能的人和企业才是改变世界的主体，而算法和人工智能的广泛应用在提升生产力和革新生产方式的同时，也在不断重构生产关系，让以人为中心的工具主义逐步转向人机协同的共生关系。因此如何让算法和人工智能造福人类、同时又避免算法和人工智能带来的风险，对算法和人工智能服务提供监管的主体才是关键。2023年8月15日，国家互联网信息办公室、国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局共同发布的《生成式人工智能服务管理 暂行办法》正式实施，这是我国首个针对生成式人工智能的规范性政策，为促进算法和人工智能生态健康发展提供了制度保障。 1.1背景 在科技日新月异的时代背景下，算法与人工智能（AI）作为数字时代的核心驱动力，正以前所未有的速度渗透并重塑着社会的各个领域，从日常生活服务到高精尖科技研发，其影响力日益显著。2022年，我们开展了一项关于用户对算法认知与评价的问卷调查，分析我国消费者对企业算法使用的认知和评价。时至今日，随着技术的不断进步与创新，算法与AI技术已迈入新的发展阶段，展现出更加丰富的功能与应用潜力。为了准确把握这一技术变革过程中用户认知与态度的动态变化，以及深入了解用户对新兴事物——人工智能的整体认知与看法，我们决定再次发起一项针对性的问卷调查。本次调查旨在通过对比分析，探究过去两年间用户在算法认知方面的深化程度、态度转变的轨迹，以及对于人工智能使用的认知现状与评价。 本课题对算法和人工智能的调研，着重于从消费者的认知层面以及应用感知维度展开，这样做的原因有以下三个。 第一，人工智能的不当使用导致消费者权益被侵害的问题受到普遍关注。这具体表现为数据过度采集、隐私泄露、知识产权和伦理道德问题等方面。消费者对自身权益是否受到侵害、在多大程度受到侵害这一问题最有发言权。本课题希望通过消费者问卷调查，了解用户的真实感受。 第二，用户对算法和人工智能的认知水平影响着其个人福利，需要了解消费者整体的算法和人工智能素养水平。一是需要了解算法应用至今，其应用的环境有没有变化以及消费者对算法的认知是否有改变，是否在保证个人隐私的同时提供数据并享受算法带来的便利，是否陷入网络沉迷和“信息茧房”，是否因推荐而过度消费，是否可以利用规则争取和维护个人权益；二是需要了解消费者对AI大模型的认知程度以及对使用AI大模型的态度，是否认为应该推广使用AI大模型，这些在一定程度上取决于消费者自身的算法素养和人工智能素养。本课题希望通过调研了解消费者算法和人工智能素养水平，提出进行消费者教育的相应对策。 第三，消费者对算法和人工智能的态度存在内在的不一致性。有研究表明，一方面，用户在言 语表达上更关注使用算法提供服务时可能存在的侵犯隐私、价格歧视、伦理风险等问题；但另一方面，在行为上，为了得到更好的服务体验和提高效率，用户对个人信息提供、个性化推荐、AI大模型使用等表现出较好的宽容性，并不排斥企业算法和AI大模型的使用。本课题希望通过问卷中不同问题的设置，寻找不一致性存在的证据，以更准确判断算法和人工智能对消费者福利的影响。 1.2问卷设计理念 问卷共设计了33个问题，包含四个部分，第一部分是关