信息技术行业动态点评：AI发展如火如荼，安全不容忽视

信息技术行业动态点评 / AI发展如火如荼，安全不容忽视 挖掘价值投资成长 / 2024年06月25日 【事项】 近日，OpenAI前首席科学家IlyaSutskever宣布创立一家名为“安全超级智能”（SafeSuperIntelligence,SSI）的公司。该公司的目标和产品极其明确、单一，即追求安全的超级智能。公司将安全性和能力视为通过革命性工程和科学突破来解决的技术难题，同时确保安全性始终保持领先地位。 【评论】 强于大市（维持） 东方财富证券研究所 证券分析师：方科 证书编号：S1160522040001电话：021-23586361 相对指数表现 5.54% -3.04% -11.62% -20.20% 6/258/2510/2512/252/254/25 -28.78% -37.36% AI发展如火如荼，AI安全不可忽视。去年11月，OpenAI内部产生分歧，奥尔特曼和OpenAI总裁GregBrockman倾向于加速商业化，以获得更多资金来支持AI模型的算力需求。而伊利亚等人则希望AI更 相关研究 信息技术沪深300 安全。双方矛盾激化，最终结果是奥尔特曼和GregBrockman在短暂离职后重归OpenAI，原董事会中的多位董事离开，伊利亚则在今年5月宣布离任。我们认为，本质的分歧在于AI安全的“路线之争”，可见目前在AI前沿的大模型公司中已有诸多关于AI安全的讨论，AI安全问题正日趋紧要，需要引起重视。 AI系统设计面临诸多挑战，安全技术需不停迭代。整体来看，为了实现AGI目标，当前AI系统在设计上主要面临以下挑战，包括： 软硬件的安全：在AI模型层面，攻击者同样可能在模型中植入后门并实施高级攻击；且由于AI模型的不可解释性，在模型中植入的恶意后门难以被检测。 数据完整性：在数据层面，攻击者能够在训练阶段掺入恶意数据，影响AI模型推理能力；攻击者同样可以在判断阶段对要判断的样本加入少量噪音，刻意改变判断结果。 模型保密性：在模型参数层面，服务提供者往往只希望提供模型查询服务，而不希望暴露自己训练的模型；通过多次查询，攻击者能够构建出一个相似的模型，进而获得模型的相关信息。 模型鲁棒性：训练模型时的样本往往覆盖性不足，使得模型鲁棒性不强；模型面对恶意样本时，无法给出正确的判断结果。 数据隐私：在用户提供训练数据的场景下，攻击者能够通过反复查询训练好的模型获得用户的隐私信息。 《华为开发者大会召开，关注华为产业链》 2024.06.20 《多地车路云项目落地进行中》 2024.06.20 《陆家嘴论坛召开，聚焦科技创新与资本市场高质量发展》 2024.06.19 《《上海低空经济发展白皮书2024》发布，产业发展态势良好》 2024.06.18 《数据要素政策密集出台催化产业落地》 2024.06.17 行业研究 信息技术 证券研究报告 2017 图表1：AGI水平和能力的五个级别 级别AI水平和能力层次状态 Level0认知低于人类；替代部分人类智能善用/误用/恶用 Level1 认知超人 人类躺平；理性信任 Level2具身超人超出控制能力 Level3 感知认识结合产生意识 机器崛起 Level4产生自我意识人类成为次等物种 Level5 脱离人类知识和大脑架构 AGI探索宇宙 资料来源：钛媒体公众号，东方财富证券研究所 我们认为，人工智能系统不安全的开发、部署或使用，可能给人类带来灾难性甚至生存性风险。随着数字智能接近甚至超越人类智能，由误用和失控所带来的风险将大幅增加。在未来快速发展的人工智能技术及其广泛的社会影响下，安全问题值得更严肃更深入的探讨。建议关注AI安全板块相关公司。 建议关注：启明星辰，奇安信，绿盟科技，永信至诚等。 【风险提示】 产业发展不及预期；行业竞争加剧。 2017 东方财富证券股份有限公司（以下简称“本公司”）具有中国证监会核准的证券投资咨询业务资格分析师申明： 作者具有中国证券业协会授予的证券投资咨询执业资格或相当的专业胜任能力，保证报告所采用的数据均来自合规渠道，分析逻辑基于作者的职业理解，本报告清晰准确地反映了作者的研究观点，力求独立、客观和公正，结论不受任何第三方的授意或影响，特此声明。 投资建议的评级标准： 报告中投资建议所涉及的评级分为股票评级和行业评级（另有说明的除外）。评级标准为报告发布日后3到12个月内的相对市场表现，也即：以报告发布日后的3到12个月内的公司股价（或行业指数）相对同期相关证券市场代表性指数的涨跌幅作为基准。其中：A股市场以沪深300指数为基准；新三板市场以三板成指（针对协议转让标的）或三板做市指数（针对做市转让标的）为基准；香港市场以恒生指数为基准；美国市场以标普500指数为基准。 股票评级 买入：相对同期相关证券市场代表性指数涨幅15%以上； 增持：相对同期相关证券市场代表性指数涨幅介于5%～15%之间；中性：相对同期相关证券市场代表性指数涨幅介于-5%～5%之间；减持：相对同期相关证券市场代表性指数涨幅介于-15%～-5%之间；卖出：相对同期相关证券市场代表性指数跌幅15%以上。 行业评级 强于大市：相对同期相关证券市场代表性指数涨幅10%以上； 中性：相对同期相关证券市场代表性指数涨幅介于-10%～10%之间；弱于大市：相对同期相关证券市场代表性指数跌幅10%以上。 免责声明： 本研究报告由东方财富证券股份有限公司制作及在中华人民共和国（香港和澳门特别行政区、台湾省除外）发布。 本研究报告仅供本公司的客户使用。本公司不会因接收人收到本报告而视其为本公司的当然客户。 本研究报告是基于本公司认为可靠的且目前已公开的信息撰写，本公司力求但不保证该信息的准确性和完整性，客户也不应该认为该信息是准确和完整的。同时，本公司不保证文中观点或陈述不会发生任何变更，在不同时期，本公司可发出与本报告所载资料、意见及推测不一致的报告。本公司会适时更新我们的研究，但可能会因某些规定而无法做到。除了一些定期出版的报告之外，绝大多数研究报告是在分析师认为适当的时候不定期地发布。 在任何情况下，本报告中的信息或所表述的意见并不构成对任何人的投资建议，也没有考虑到个别客户特殊的投资目标、财务状况或需求。客户应考虑本报告中的任何意见或建议是否符合其特定状况，若有必要应寻求专家意见。本报告所载的资料、工具、意见及推测只提供给客户作参考之用，并非作为或被视为出售或购买证券或其他投资标的的邀请或向人作出邀请。 本报告中提及的投资价格和价值以及这些投资带来的收入可能会波动。过去的表现并不代表未来的表现，未来的回报也无法保证，投资者可能会损失本金。外汇汇率波动有可能对某些投资的价值或价格或来自这一投资的收入产生不良影响。 那些涉及期货、期权及其它衍生工具的交易，因其包括重大的市场风险，因此并不适合所有投资者。 在任何情况下，本公司不对任何人因使用本报告中的任何内容所引致的任何损失负任何责任，投资者需自行承担风险。 本报告主要以电子版形式分发，间或也会辅以印刷品形式分发，所有报告版权均归本公司所有。未经本公司事先书面授权，任何机构或个人不得以任何形式复制、转发或公开传播本报告的全部或部分内容，不得将报告内容作为诉讼、仲裁、传媒所引用之证明或依据，不得用于营利或用于未经允许的其它用途。 如需引用、刊发或转载本报告，需注明出处为东方财富证券研究所，且不得对本报告进行任何有悖原意的引用、删节和修改。