金山集团及金山云CEO微软YaZhou研究院创始人之一张宏江20230706

金山集团及金山云CEO、微软亚洲研究院创始人之一张宏江：AI2023-07-06“为什么 是微软？基础研究必须当成慈善一样做”□人工智能未来会超越人类智慧吗？如今AI行业在这个问题上已基本达成共识。 北京智源研究院给出了通用人工智能（AGI）的释义：一定是比人类强大的智能，才真正叫AGI。所以，自主智能、超人智能、强人工智能，其实讲的都是一种全面超越人类的智能。 于是当生成式人工智能（GAI）模型ChatGPT诞生，沉寂已久的AI行业再度沸腾之时，关于人工智能安全的集体思辨随之发生。 “历史上从来没有过更智能的事物被不那么智能的事物控制的先例，假如青蛙发明了人类，你觉得谁会取得控制权？是青蛙，还是人？”——AI教父、图灵奖得主、“深度学习三巨头”之一Geoff reyHinton；□“想象一下，未来的AGI系统或许具有10万行二进制代码，人类监管人员不太可能发现这样的模型是否在做一些邪恶的事情。”——OpenAICEOSamAl tman；□“我们应该暂停开发比GPT-4更强大的系统，不是说我们应该暂停人工智能，暂停的 目的只是让人工智能更像生物技术。让机器具有可解释性是关键。”——“暂停AI研究倡议的发起人”、现任麻省理工学院物理学终身教授MaxTegmark；□这些观点摘录自堪称全球最高 规格的AI行业大会“智源大会”。今年6月，出席第五届智源大会的嘉宾包括4位图灵奖得主：GeoffreyHinton、YannLeCun、JosephSifakis和姚期智， OpenAICEOSamAltman，张亚勤等知名院士学者，以及DeepMind、Midjourney等知名人工智能团队。 主办方智源研究院，是一家在舆论场上极为低调的人工智能非营利研究机构。2018年，即OpenAI第一代GPT大模型发布次年，智源研究院由北京市科委和海淀区在2018年推动成立。成立 之初，智源研究院的目标清晰而庞大：深挖人工智能，产生多项在20年后回看仍有意义的原始创新成果。 来源：中企图库□张宏江是这场“豪赌”中被寄予厚望的灵魂人物。他做过研发，做过管理也做过投资 ，被熟知的身份是金山集团及金山云CEO、微软亚洲研究院创始人之一。张宏江被业界称为计算机视频检索研究领域的“开山鼻祖”，是世界计算机领域影响因子最高的科学家之一，现任美国国家工 程院外籍院士。“宏江是最早一波将科研落地进入产业的科学家，这二十年培养了不少人工智能人才。”小米科技联合创始人黄江吉前字节副总裁、现清华大学智能研究院首席科学家马维英表示，“宏江是全球范围内少有的能将学术和产业都做到一定水平的科学家。”□出任智源研究院理事长后，张宏江从零开始聚沙成塔，搭建团队。2020年，智源成立大模型攻坚团队，2021年推出了“悟道2.0”大模型，参数量达1.75万亿，是GPT-3.5的近10倍，是当时中国首个、全球最大 的万亿级模型。今年6月智源大会上，智源发布了完整的悟道3.0大模型系列（包含语言大模型系列、大模型语言评测体系、视觉大模型系列、多模态模型等），并进入全面开源阶段。 “我是所谓出道（退休）了的人，我不需要为了自己的位置而做一些事情，我不会再做一些重复的事 情。”张宏江称把研究做出来是智源研究院的方向，“不能是为了出几篇文章”。 人工智能研究的问题，从根源上回答了为什么是微软抓住了此次人工智能浪潮的机会。张宏江认为，基础研究，要么不做，要么一定要把它当慈善来做，就不要想短期的回报。“我们要问，有没有环境能够容忍科研者在低潮的时候做一些事情。反过来也要问自己，我们的科研从业人员有多少是出于对他做的事情的热爱？”□张宏江一直对年轻人充满信心，“一代比一代强，他们的包袱比我们身上的包袱少，有自信，知识面比我们宽，全球的视野比我们在他们那个年纪的时候要强太多。”□张宏江认同《为什么伟大不能被计划》一书中的观点，探索任何复杂问题的过程都将充斥无数欺骗性的“踏脚石”，目标可能是错误的指南针。“一切努力都是为了提高概率。资助机构经常问我一个问题，五年内你能实现什么？我不能保证我能带来什么，但我成功的可能性会增加。”“把基础研究当慈善来做” Q：为什么是微软抓住了人工智能的机会？ 张宏江：核心的核心是，我们不能每次在一公众号新价值人个风口来过后，我们看到一些成功者，就想问为什么我当时没做到？为什么中国没有做到？为什么清华或者北大没做到？ 我们要问，有没有环境能够容忍这些人在低潮的时候做一些事情。反过来也要问自己，我们的科研从业人员有多少是出于对他做的事情的热爱，有多少只是当成一个职业？ 神经网络实际上是上一波人工智能热潮里的核心算法。在80年代末90年初开始技术退潮的时候，人们开始排斥或者说放弃神经网络的相关研究，开始转向统计学习。这本身不是坏事，当时神经网络确实没法往下走，研究一定是会走很多弯路。 当时没有人再投资神经网络，但杰弗里·辛顿(GeoffreyHinton)（谷歌副总裁兼工 程研究员、Vector研究所首席科学顾问、多伦多大学名誉教授，亦是伦敦大学学院（UCL） 盖茨比计算神经科学中心的创立者。深度学习“三巨头”之一）并没有放弃，还在持续做这件事。而杨立昆（YannLeCun）（法国计算机科学家，担任Facebook首席人工智能科学家 和纽约大学教授，2018年图灵奖得主，被称为卷积网络之父。深度学习“三巨头”之一）读博士的时候恰恰是上一轮AI泡沫破灭的时候，他并没有受到影响，还是持续研究神经网络。 如果我们看杰弗里·辛顿(GeoffreyHinton)或者是杨立昆（YannLeCun ）这样的人，我们应该从他们身上学到的是，他们对于自己所做研究的热爱，不会因高潮低潮而改变 。 当职业成本太高就难有突破性的东西。但这是一个生态的建设，我们希望智源能持续为良性循环的生态作出贡献。 Q：这意味着科研者要在理想和现实二者间进行抉择？ 张宏江：我们已经不是陈景润时代，做科研要自己挤在一个角落里，既没有好的办公室，也没有好的生活条件。 一方面我非常同意要大力提高科研人员待遇，另一方面我想强调，科研人员的第一选择应该是比较自 由开放的环境。自由和高收入在市场上往往会存在一定矛盾，但是否要随波逐流，成为不断追求短期市场回报的那一批人，在于每个人的选择，正是无数的选择写成了我们一生的成果。 智源在一开始研究OpenAI的时候有一个分析结论是，（他们愿意做因为）他们工资高，平均（年薪）25万美金。但我告诉团队，OpenAI的这些人如果去Google的话，他能拿50万美金 。这波人是有理想，真的想做这件事的，至少他们愿意为这种情怀拿出三年五年。Q：为什么是三年五年？ 张宏江：我们不能要求一个人一辈子都有理想，或者一辈子靠家里生活。Q：大公司平台化产品追求快速迭代，但科研不能功利化？ 张宏江：产品和公司一定是这样追求。但我们做研究，如果大量的工作就仅仅为了在自己简历上多放几篇文章的话，实际上是一种浪费。大部分文章，其实读的人都很少。真正的价值应该如何体现？这是值得科研人员好好思考的问题。 Q：看起来商业公司并不适合做基础研究。 张宏江：没有，关键是这些公司要想清楚，公司的定位以及公司的利润想拿来做什么。 有人曾经来微软研究院问我，什么是最好的体系？我说基础研究，要么不做，要么你一定要把它当慈善来做，就不要想短期的回报，不论政府还是企业。管理基础研究人员也不能像管工程师那样，看每个礼拜都做了什么。 如果我们太多时间花在短期的考核上，我们没法做事。摄影：肖丽 微软在1993年做微软研究院的时候还是家小公司，但比尔·盖茨其实想的很清楚，他就希望微软研究院找最聪明的人做他们想做的事，这种理念让微软研究院能够做成。 微软研究院的一些技术对微软产品也有贡献，但微软研究院是完全像一个大学的计算机系进行管理的 。比尔·盖茨喜欢看到一些新的技术，他考虑过商业后也觉得，微软能够每年拿出几亿美金来做这件事，不求短期回报。 Q：给予研究人员充分自由的环境后，他们是否会出现迷茫以及找不到锚点的问题？如何解决？张宏江：之前我在国内一个顶尖大学和青年教师做过一次所谓的职业讨论，一位年轻的教授提出一个问题：我们一方面有KPI的要求，要申请基金、出文章、评奖，另一方面我们也知道真的要做突破性的研究需要聚焦，需要很长时间沉下去，这两个矛盾怎么平衡。 我说，如果这个问题是国内三流学校的某位教授提的，我会非常同情他，给他出各种各样的主意。但我们一流大学的教授不应该提这样的问题，你要对自己充分的自信。 如果你相信自己是一流的人才，又获得了一流的资源，你不应该去畏惧失败，事实上失败的几率没有那么大。作为管理者，如果你认为这个人是一流的人才，你就应该放心大胆的让他做决策。科研体系里面的信任非常重要，当我们互相有信任的时候，不应该再纠缠于失误的可能。KPI就是唯数字论，最后一定要数字过关。这个我觉得不光是科研体系的问题也是很多管理体系的问 题。 因为管理人的能力不够或不够专业，所以一定要用数字来考察大家。比如你要有多少论文，论文还分哪个档次的论文。但我们做事情，尤其是做科研不能这么做，你需要有很多的探索，很多的失败。先有大量的失败，才可能有比较好的成果，这也是我这么多的年做科研管理的一些心得。 Q：您是否会划定容错率？ 张宏江：做研究和做产品不一样，做产品失败了就是一个失败的产品，但做研究比如你失败100次，只要做出一个足够改变世界的东西，那你就成功了。你不可能定KPI，说10个项目我要成功7个 还是成功3个。 Q：评价一个东西是否有价值，有没有可以量化的指标？ 张宏江：不用量化。第一你是不是在最前沿？第二你是不是在做别人以前没有做过的事情？第三你是不是有最好的人去做这件事？我们谈科研一定是说要对这个问题有好奇心，听上去好像比较简单，但你看中国科研的问题在哪儿？职业化，就是做科研是职业不是爱好。 职业化就会被KPI推动，而不是被想解决问题的冲动推动。我们找人格外看重三点，第一要找因好奇心和解决问题冲动而推动的人，第二是有深入理解问题能力的人，第三是有团队能力的人，这样才能做大事情。 “AI创造的工作会比消灭的更多” Q：您认为我们现在处于AI技术发展的哪一个阶段？ 张宏江：AI过去的十年是积累的阶段，今天会看到一个大爆炸的时点。这个大爆炸实际上是在深入到每一个可能的应用场景里面去。这也意味着AI的门槛在降低，或者说AI本身变成一个基本的技术 能力。 所以我也不认为大学里设人工智能系是件特别好的事。它已经成为一个基本技能的话，计算机系的学生都要学啊。就像你今天在计算机系要学系统架构或者学数据库，你不会再设一个数据库系，或者系统架构系。 Q：大爆炸期会持续多久？张宏江：最少10年。 Q：李开复不支持将AI比喻为类人脑，认为人类对人脑的了解太少，您认同吗？ 张宏江：我们不应该把今天的人工智能、深度学习说成是类人脑，或者是像人脑一样思考，确实不是 。今天的AI不是人脑这种思维方式的一个很重要的原因，是我们对人脑的认识很少，所以我们更应该去学习人脑。 Q：OpenAI部分前核心人员在2021年新成立了一家公司Anthropic，目的是解 决AI的安全问题。他们认为“研究者们正在疯狂地把一些‘一知半解’的知识用于神经网络，并且把这样开发出来的AI系统用于越来越高风险的场景，却又缺乏对可解释性，对安全的思考。”您怎么看这个观点？ 张宏江：对于这个技术判断我不太想多说，我本人未必能够做出更好的判断。但我想说的是，他们从OpenAI出来，做新的公司探索新的方向，新的方法论，本身就是他们产业科技界创新能力的体现 。他这个东西现在不是主流，但可能10个里面有3个或者有1个会成为主流，我也希望中国多出现这种非主流的探索。 Q：智源设有AI伦理中心，您怎么看AI的安全问题？ 张宏江：好消息是AI的伦理和安全这件事在中国已经变得非常popular，大家已经认识到这个问题很重要，反而我们自己并不需要花太多时间来做这件事了。 来源：