黄连金ChatGPT和PlugIn 的 应用和安全

演讲题目:ChatGPT和Plug-In的应用和安全 •演讲人：黄连金 •单位名称云安全联盟大中华区 人工智能的三要素和三类型 •三要素 •数据（从演绎推理到归纳推理，需要大量数据，包括Prompt） •算法（深度学习，ChatGPT在工程上有大量创新和改进） •算力（需要大量GPU，ChatGPT用到1万个英伟达的GPU,28万CPU） •三种类型 •弱人工智能：就是利用现有的算法辅助各个行业的应用。 •强人工智能：非常接近于人的智能，ChatGPT。 •超级人工智能：这个是否可能？ ChatGPT的技术原理：基于Transformer的大型语言模型 1：大型语言模型可以体现智能 2：预测可以体现智能 3：人类监督学习和反馈机制是关键 4：利用PPO:近端策略优化（ProximalPolicyOptimization)增强学习来持续提高智能 5：目前在写代码和文章已经有优势 ChatGPT+Plug-In:从AIGC到AIGE（Economy) •AI产生的新经济系统和商业模型已经不可逆转 •价值效应超过：操作系统，Web和AppStore •OpenAI，Microsoft有先发优势，但是。。。 •不注意安全会带来灾难 ChatGPT数据泄露已经发生 泄露的对话和提示：2023年3月22日，ChatGPT的一些对话和提示被随机泄露给其他用户，这是对GDPR法规的明显违反。另外支付信息泄露违反PCI/DSS ChatGPT的安全问题（CSACEO：JimReavis） ChatGPTPlug-in的安全防护措施 ●Accesscontrolanduserauthentication(访问控制和用户身份验证):限制对ChatGPT插件的访问并确保只有授权用户可以使用。 ●利用去中心化数字身份DID ●利用智能合约约束AI ●Ratelimitingandspamprevention(限制访问速率和防止垃圾信息):对访问请求进行限制，以防止恶意攻击和垃圾信息泛滥。 ChatGPT和Plug-In的安全趋势 THANKYOU.