微软2023Ignite大会纪录：微软继续引领全球AI浪潮

亮点一：AI基础设施的革新。 微软与OpenAI合作，集成ChatGPT可以用于搜索、协作、工作和学习工具。推出了AI加速器芯片Azure Maia和基于Arm架构的云原生芯片Azure Cobalt。 Azure Boost即将正式商用，可将存储和网络进程从主机服务器迁移到专用硬件和软件上，从而提高存储和网络速度。 亮点二：扩展微软Copilot体验。 通过更新可以在Windows和Bing中访问M365 Copilot；Bing chat和Bing Chat Enterprise更新为Copilot。 Microsoft Copilot Studio（自己构建Copilot）：一款低代码工具，用于根据自己的场景构建独立的copilot，除此之外，微软融合gpts进来，可以与copilot配合使用，可以构建、测试、发布自定义的copilot和gpt。Copilot Studio现已推出，与Copilot for Microsoft 365的集成现已推出预览版。 亮点三：Windows与AI的深度融合。 2024年初，Copilot for Microsoft 365将集成到Windows桌面中，允许用户在Microsoft 365 Graph内容和上下文中进行prompts。 推出window AI studio，集合了Azure AI Studio和Hugging Face的尖端AI开发工具和模型，使得开发人员能够微调、自定义、部署SLM在Windows本地进行使用。开发人员可以使用工作区中集成的Prompt Flow和Gradio模板快速测试其微调模型。 英伟达即将更新TensorRT-LLM for Windows，TensorRT-LLM for Windows即将通过全新封装接口与OpenAI的聊天API兼容，这将使数以百计的开发者项目和应用能在RTX PC的本地运行，而非云端运行，因此用户可以在PC上保留私人和专有数据。 报告内容来自大会直播实时翻译，更多详细内容请参考： 1）官方新闻汇集渠道https://news.microsoft.com/ignite-2023-book-of-news/ 2）开题演讲片段https://news.microsoft.com/ignite-2023/ 风险提示：AI技术落地不及预期、市场需求不及预期、全球供应链风险加剧 1.微软Day 1 keynote会议内容 最新数据显示，Copilot已经推动了生产力的真正提升，使用Copilot的人在寻找信息上花费的时间更少，他们举行的会议更有效，他们能够在工作文档上进行协作，不管是Word文档、电子表格、电子邮件。在本周的Ignite上，微软将推出100多项新更新，涵盖整个技术栈的每一个层面。微软的端到端Copilot技术栈覆盖了基础设施、基础模型、数据工具链，Copilot等。 1.1.AI基础设施 微软已经以突破性进展引领了产业发展：例如，与OpenAI建立合作伙伴关系，并将ChatGPT功能集成于搜索、协作、工作和学习工具中。随着在AI领域的进一步发展，微软正在重新构想云基础设施，以确保每一层硬件和软件堆栈都获得优化。 微软的数据中心网络已经是世界上最先进和最广泛的网络之一。为了满足AI和未来工作负载的需求，微软推出了Hollow core fiber技术，利用空气作为光纤的导光介质，传输速度提升了47%，在英国数据中心最先使用（去年底微软收购这条赛道的领跑者英国Lumenisity）。 微软与Nvidia的深入合作。微软利用Nvidia的GPU在云中构建了AI超级计算基础设施，OpenAI利用这一基础设施交付了大型语言模型。上周，亚洲地区提交给MLperf基准测试联盟的数据量最大，使用了10000个H100 GPU，是之前记录的三倍，性能超过任何其他云平台。在最新的世界超级计算机前500名中，Azure是公共云中最强大的超级计算机，总体排名第三。 拓展与芯片供应商的合作伙伴关系，为客户提供基础设施选项： （1）将在微软智能云Azure中添加AMD MI300X加速虚拟机（VMs）。ND MI300虚拟机（VMs）将采用AMD最新的GPU——AMD Instinct MI300X，旨在加速AI工作负载的处理，以实现高范围的AI模型训练和生成式推理。 （2）开放预览为英伟达H100 Tensor Core GPU打造的全新NC H100 v5虚拟机系列，将提高大中型AI训练和生成式推理的性能、可靠性和效率。微软还发布了ND H200 v5虚拟机系列计划，这是一款AI优化虚拟机，配备了即将推出的英伟达H200 Tensor Core GPU。 （3）OpenAI的GPT-4已经在MI300X上运行了。 发布了微软设计的两款芯片： （1）Microsoft Azure Cobalt：是一款基于Arm架构的云原生芯片，针对通用工作负载的性能、功率和成本效益进行了优化。64 bit 128 core。为微软团队、Azure通信服务以及Azure SQL提供动力。明年微软将向客户提供这款产品。 （2）Microsoft Azure Maia：是一款微软自研AI加速器芯片，用于OpenAI模型、Bing、GitHub Copilot和ChatGPT等AI工作负载运行云端训练和推理。 采用 5nm 制程，晶体管数量达到1050亿个。（微软还给Maia重新设计了一套散热系统，目前主要用于处理微软内部算力需求） Azure Boost将正式商用。该系统可将存储和网络进程从主机服务器转迁移到专用硬件和软件上，从而提高存储和网络速度，使Azure成为高性能工作负载的最佳云平台，同时也增强了安全性。 1.2.基础模型服务 微软正在将最新的GPT-4引入Azure OpenAI服务，包括具有视觉功能的GPT-4 Turbo。GPT-4 Turbo提供更低的定价、结构化的JSON格式，以及扩展提示等功能，现在可以在单个提示中放入300页的文本。GPT-4 Turbo将在Azure OpenAI服务中提供，新模型的tokens定价将与OpenAI持平。不久后，还将能够将GPT-4 Turbo与Azure AI Vision连接起来，允许使用视频图像和文本进行提示。 微软还将在Azure OpenAI服务中引入GPT-4的微调功能，允许使用自己的数据创建GPT-4的定制版本。 model catalog帮助继续拓展生成式AI模型的选择和灵活性，为开发者提供更加全面的开放模型选择。模型即服务（Model-as-a-Service）是微软在Build开发者大会上发布的模型目录中的新功能，让专业开发者将能够轻松将Meta Llama 2、Mistral即将推出的高级模型以及G42 Jais等最新的AI模型作为API端点集成到他们的应用当中，还可以用自己的数据定制这些模型，无需担心GPU基础架构的设置和管理，消除复杂性。 Azure AI Studio预览版推出，借助Azure AI Studio，可以利用自己的数据构建、训练自己的“copilot”，或者使用自己数据来构建其他模型。 Azure AI Search的功能更新：Vector Search现在已正式商用，企业可以在其生成式AI应用中为每个用户带来高精准度的体验。 新的GPT-3.5 Turbo模型（支持16K token提示词长度）将正式商用，GPT-4 Turbo将于2023年11月底在Azure OpenAI服务中公开预览。GPT-4 Turbo with Vision即将推出预览版，DALLE·3现已在Azure Open AI服务中公开预览，与GPT-4共同推动下一代企业解决方案的发展，使企业能够利用图像实现高级功能。与Azure AI视觉服务一起使用时，GPT-4 Turbo with Vision可以理解视频以生成文本输出。 微软发布了自己训练的最新开源预训练模型Phi-2，参数达到27亿，在数理、逻辑等方面均显著好于上一代产品。 英伟达和微软同台交流，发布最近合作内容： （1）英伟达将发布基于微软智能云Azure的AI工坊服务（AI foundry service），旨在帮助企业和初创公司在Azure上加速开发、调整和部署自己的定制AI模型。英伟达AI工坊服务（NVIDIA AI foundry service）汇集了英伟达AI基础模型系列、英伟达NeMo框架和工具，以及英伟达DGX Cloud AI超级计算和服务这三大要素，为企业构建自定义生成式AI模型提供了端到端解决方案。企业可以在Azure上利用英伟达AI Enterprise软件部署其模型，为生成式AI应用——如智能搜索、总结和内容生成等，提供助力。 （2）Nvidia Omniverse可以在Azure云上使用，提供Omniverse Cloud服务，根据英伟达官方信息，该一站式服务能够使全球汽车制造商统一其核心产品与业务流程的数字化，从而提高生产速度和运营效率，缩短产品上市时间。 （3）英伟达与微软一起发布DirectML增强功能，用来赋能使用Llama2作为基础模型的开发者。 （4）TensorRT-LLM即将更新，未来会支持更多的大语言模型，在RTX GPU 8GB及以上显存的PC和笔记本电脑上使要求严苛的AI工作负载更容易完成。 TensorRT-LLM for Windows即将通过全新封装接口与OpenAI的聊天API兼容，这将使数以百计的开发者项目和应用能在RTX PC的本地运行，而非云端运行，因此用户可以在PC上保留私人和专有数据。 1.3.扩展Copilot M365体验 （1）Microsoft Copilot for Microsoft 365：本月，Copilot for Microsoft 365正式面向企业开放商用。目前，Visa、BP集团、本田和辉瑞等客户，以及埃森哲、安永、毕马威、勤达睿和普华永道等合作伙伴都在使用Copilot。微软将根据从“早期使用计划”（Early Access Program）和其他研究渠道中获得的经验，继续提供新价值。本次会议发布了PowerPoint、Excel、Microsoft Viva等套件更新。 -M365 copilot：将首先在word、powerpoint推出个性化功能（可以根据自己的偏好调整风格、语气的偏好等），之后会在Microsoft 365其他的应用中推出。 除此之外，word即将更新利用copilot追踪和注释的功能；PowerPoint即将推出图像库。 -Microsoft TeamsCopilot：现在可以在Teams中使用Copilot合成长帖子，审查工作中的操作等。预计2023年12月，智能回顾功能将在copilot上线，能够通过提供摘要帮忙回顾错过的会议；Microsoft Whiteboard中的Copilot将在Teams会议期间自动捕获和可视化口头讨论点，并将它们组织到Whiteboard中的协作空间中，并在所有会议参与者之间共享。 -Microsoft Outlook Copilot：2024年初推出，可为即将举行的会议做好准备，梳理邀请详细信息、相关电子邮件和相关文档。 -Microsoft Viva： 发布了Microsoft Copilot Dashboard（ 预览链接 ：https://insights.cloud.microsoft/#/CopilotDashboard）现在处于预览阶段，该仪表板根据Microsoft 365应用程序的使用情况显示有多少员工符合条件并准备好从Copilot中受益，详细分析了跨应用程序的Copilot使用情况，并根据会议、聊天、电子邮件和其他信息提供有关Copilot对生产力影响的早期信号。2024年1月推出的预览版包括更多高级功能，例如Microsoft Viva I