微软的AI策略:软硬结合,多交朋友

伟铭 5个月前 (11-16)

火药味少了

微软的AI策略:软硬结合,多交朋友

就在本周,NVIDIA英伟达刚刚发布了最新的AI芯片H200 GPU,引发了业界广泛关注。

不过AI圈苦算力久矣,看看二手平台30万一张的H100,相信规格又有提升的H200价格也不会便宜到哪去。

处在行业前列的科技大厂们同样要考虑“降本增效”的事儿,“自研芯片”就是其中一条出路。

而在今天稍早的Ignite 2023大会上,微软终于公布了那个“传说中”代号“Athena雅典娜”的芯片——Azure Maia 100,同时还有Cobalt 100,两者将用于强化Azure AI和Microsoft Copilot服务。

算力还行,显存不够

首先是Maia 100,这是一款专为Azure云服务和AI工作负载设计的ASIC芯片,适用于x86系统,可用于OpenAI模型、Bing、GitHub Copilot和ChatGPT等AI工作负载运行云端训练和推理。

基于台积电5nm工艺,单芯片拥有1050亿个晶体管。在算力方面,MXInt8格式下,算力可以达到1600 TFLOPS,在MXFP4格式下则为3200 TFLOPS。这个水平和英伟达的H100相比也差距不远了。

不过由于Maia 100的立项设计是早于大语言模型热潮之前的,因此在显存上的规划要相对保守,只给了4层堆栈64GB HBM3显存,带宽也只有1.6TB/s,无论速度、堆栈层数还是容量,都远不及H100。有关显存对于AI计算,尤其是推理效率的意义,大家可以参考《英伟达H200发布,性能很强,奈何买不到》,这里就不再赘述。

微软的AI策略:软硬结合,多交朋友

不过微软有一个独特的领先之处,每块Maia 100的芯片内都直接集成了RDMA以太网IO,可以很方便的进行多芯片互联,相当于英伟达的NVLink。这使得Maia 100能够很轻松地实现数量庞大的芯片互联,而不需要外置网卡协助。

OpenAI首席执行官Sam Altman表示:“Azure Maia 是专门为 AI 设计的,旨在实现硬件的绝对最大利用率”,OpenAI也已经用自己的模型(GPT-3.5 Turbo)对Maia进行了测试与改进。

微软的AI策略:软硬结合,多交朋友

另一款Cobalt 100CPU则是一款高能效设计的Arm架构芯片,专门用于在微软Cloud上运行通用计算工作负载。这款芯片可以提供高密度、高可靠性和高安全性的计算服务,适用于 Web 应用、数据库、容器和微服务等。

硬件规格上,Cobalt 100拥有128个Neoverse N2内核,支持12通道DDR5内存。

根据微软硬件产品开发副总裁所说,Cobalt 100的主要目标是优化整个数据中心的“每瓦性能”以实现可持续发展

取代英伟达?不,扩大合作!

前面也提到了,长期以来,英伟达的AI芯片上几乎具有统治级的地位,旗舰芯片不仅一卡难求,更是价格高昂,有分析计算,AI服务比传统互联网服务如搜索引擎的成本高10倍。

实际上,微软已经是Meta、谷歌等巨头中较晚发布自研芯片的公司了,目的基本都是降低成本。

本以为,这次的微软芯片应该也会剑指英伟达,形成竞争关系,但事实好像并非如此。

一方面,微软表示,他们并不打算出售这些芯片,而是将它们用于为其自己的订阅软件产品赋能,并作为其Azure云计算服务的一部分。

微软的AI策略:软硬结合,多交朋友

另一方面,微软还宣布将会扩大行业合作伙伴关系,推出了基于英伟达H100构建的NC H100 v5 VM系列的预览版,明年还会添加英伟达的H200 GPU,以实现更大的模型推理能力,现场更请来了英伟达CEO黄仁勋站台。同时,AMD的MI300X芯片似乎也找到了新客户。

很明显“这并不是取代NVIDIA的东西”

软件才是王炸

Azure硬件系统和基础设施(AHSI)公司副总裁Rani Borkar表示,微软是一家软件公司,现在共同设计软件和硬件是为了实现1+1>2的效果,硬件只是其中一部分。

首先,Bing Chat和Bing Chat for Enterprise,正式更名为Copilot。后续不仅可以通过浏览器网页进行访问,还会上线移动设备。

微软的AI策略:软硬结合,多交朋友

同时,微软还带来了低代码工具“Copilot Studio”,可以在同一网页中构建、部署、分析和管理内容,通过拖放这种简单易懂的方式,就能直接构建和发布插件到适用于Microsoft 365的Copilot。

它甚至还集成了OpenAI前段时间刚公布的GPTs,可定制Copilot,或构建独立的协同助手,包括自定义的 GPT、生成式AI插件等,可以自定义主题。

写在最后

整场Ignite 2023大会可以说是干货满满,笔者总结的并不全面。

不过有趣的是,似乎没人带着英特尔玩了?

本文作者:Visssom,观点仅代表个人,文章图片均来自微软

最后,记得关注微信公众号:镁客网(im2maker),更多干货在等你!

镁客网


科技 | 人文 | 行业

微信ID:im2maker
长按识别二维码关注

硬科技产业媒体

关注技术驱动创新

分享到