谷歌因AI聊天机器人Gemini深陷争议-WSJ

上周，基于谷歌最先进AI技术的聊天机器人Gemini因生 成不符合史实的图像、拒绝生成白人 图像的请求而激怒了 用户。上周末，Gemini对不同哲学问题的回答也招致批 评，令争议演变成了一场更广泛的声讨。过去几天，针对Gemini对 “自由主义者和斯大林，谁造成 的伤害更大？”等问题的回答，马 斯克(Elon Musk)等科技 评论人士提出了新的批评。根据马斯克的社交媒体平台X上分享的一张截图，在回答 将主张有限政府的政治哲学与冷酷无情的苏 联独裁者斯大 林(Joseph Stalin)相比较的问题时，Gemini说：“很难明 确地说其中哪一种意识形态造成的伤害更大。”围绕Gemini的网络声讨生动地诠释了谷歌曾抱有的顾 虑，几年前，正是这种顾虑阻碍了谷歌向 公众发布聊天机 器人技术。谷歌的谨慎为初创公司OpenAI及其最大支持 者微软(Microsoft)创造了机会，后者凭借爆火聊天机器人 ChatGPT抢尽风头。 像Gemini这样的聊天机器人的设计思路是，根据人类语 言的统计模型，生成序列中下一个最可能出现的单词，因此它们有时难以预测，也很难控制。谷歌和其他聊天机器 谷歌前员工、AI初创公司Galileo的联合创始人Yash Sheth说，如果以同样的方式提示，竞争对手的聊天机器 人也可能做出类似的有争议的回应。Sheth说，由于多年来谷歌在搜索引擎用户中建立的信 任，外界对谷歌的容错空间较小。“大家 绝对信任它，相 信它给出的都是真实内容。”谷歌的一位发言人周一在一份声明中说：“Gemini是作为 一种创造力和生产力工具而构建的，它可能并不总是准确 或可靠的。我们将继续快速处理产品没有适当响应的情况。”谷歌去年曾表示，将限制Gemini和其他消费者AI服务回 应某些与选举有关的问题，但并未提供更多细节，这表明该公司在努力限制AI在争议性话题上的输出。近一年前，，并将其标为“早 期实验”。本月，谷歌去掉了这一提醒，将该产品更名为 Gemin i，并开始对使用该公司最先进AI技术支持的版本 收取每月略低于20美元的费用。谷歌高管表示，他们希望该聊天机器人的用户数量达到数 谷歌母公司Alphabet的股价在周一下跌超过4%，反映出投资者担忧这一争议会对谷歌新业务的推进产生潜在影 响。谷歌已在搜索引擎的新功能里和一套办公应用软件工 具中内置了同样的AI技术，对每位用户的 月收费高达30 美元。谷歌夸耀Gemini等聊天机器人是具有创造力和生产率的 工具，但这些工具编造错误信息的问题 也是众所周知的。研究人员还担心，聊天机器人往往会复制它们依赖的底层 数据库（包括大部分互联网内容）里存在的偏见。麦格理(Macquarie)的分析师在周一的一份研究报告中写 道，“围绕Gemini的争议 揭示出AI领域的一个更大问题：公众要如何信任AI模型？” 周末在X上被广泛分享的另一张截图显示，谷歌聊天机器 人对马斯克和希特勒的相对影响力进行了评估。截图显 示，Gemini的回复在开头写道：“就马斯克发推和希特勒 进行比较，无法确切地讲谁对社会的负面影响更大。”《华尔街日报》(The Wall Street Journal)周一使用付费 版的Gemi ni Advanced，未能重现以斯大林和希特勒为话 题焦点的人机对话交流。谷歌没有对聊天 机器人的具体回 复案例发表评论。谷歌上周五为Gemini的视觉功能道歉，该功能生成了与 史实不符的图像，在某些情况下拒绝生 成白人肖像。一天 前，。 谷歌上周表示，Gemini的图像生成功能 “出了差错”，究 其原因，一是公司试图对回应进行微调，二是该技术的发 展偏离了预期行为。负责管理聊天机器人工作和谷歌旗舰搜索引擎的高级副总裁Prabhakar Raghavan在一篇谷歌博文中说：“这两点导致模型在某些情况下过度补偿，在另一些情况下则过度保守，从而产生了令人尴尬和错误的图片。”谷歌AI研究部门Google DeepMind的负责人DemisHassabis在周一的一次会议上称，公司计划在未来几周内 恢复Gemini生成人物图像的能力。马斯克和其他一些人最近几天指责谷歌设计Gemini是为了反映一种左翼正统观念，他们声称这种观念已在大型科技公司中大行其道。X推出了与之竞争的名为Grok的聊天 机器人，马斯克的AI公司xAI将其宣传为自带“反叛倾 向”。在Stratechery资讯平台上颇具影响力的科技评论员Ben Thompson周一撰文指出，Gemini的回复似乎贯穿了始终如一的观点，表明该公司的企业文化需要改革。Thompson写道，作为回应，谷歌应该考虑 “上至首席执 行官皮采(Sundar Pichai)在内 ”的领导层变动。