微软2款自研晶片来了,采台积5奈米技术!与辉达合推“AI代工服务”,这是什么?

微软真的推出自研晶片了!微软于中国台湾时间17日凌晨举办Ignite秋季大会,为今年的尾声投下震撼弹,宣布推出两款自研AI晶片,专为云端资料中心架构设计,能够降低能耗、成本的“Microsoft Azure Cobalt”,以及专为AI运算力设计的“Microfoft Azure Maia”,两者都采用台积电5奈米制程。目前会先应用在内部的运算工作上,明年开始提供算力给客户使用。

除此之外,微软也和多年伙伴辉达(NVIDIA)宣布推出“生成式AI代工服务”NVIDIA AI Foundry Service in Azure,提供企业客户训练生成式AI所需的工具和技术。

微软 Ignite 大会

微软 Ignite 秋季技术大会。

图/ 微软 Ignite 大会

微软两款自研晶片现身!助攻云端、AI运算力

本次Ignite大会最大亮点,就是微软重磅推出自研AI晶片,而且一次就惊喜推出两款产品。

云端运算晶片:Microsoft Azure Cobalt 100

微软自研AI晶片cobalt-100_web.jpg

微软自研云端运算AI晶片Cobalt 100

图/ 微软

Cobalt取名自化学元素“钴”,第一代编号将从100开始起算,是一款专为微软Azure云端资料中心所设计的晶片,用来提升运算效能、降低能耗、降低运营成本,采用台积电5奈米制程。

微软执行长纳德拉(Satya Nadella)指出,这是目前云端业者中速度最快的云端运算晶片。目前已经在Azure资料中心运转中,支应微软内部的运算工作,明年开始扩大让客户也能使用Cobalt的算力

AI加速器:Microfoft Azure Maia 100

微软自研AI晶片maia-100_web.jpg

微软第一代自研AI加速器Maia 100

图/ 微软

Maia取名自希腊神话的春天女神,同样从编号100开始起算,是一款专为LLM大型语言模型训练、推论和能力设计的AI加速器,同样采用台积电5奈米,1050个晶体,是目前业界可以制造的最大量。

微软甚至在会场秀出机架设备,为Maia巨大运算量,专门设计出一整套资料中心机架级的水冷系统,可以直接加在现有的资料中心设备上,未来硬件和软件都将围绕着Maia设计,提升整体效能,也能促进微软达到2050年资料中心净零碳排的愿景。

微软水冷设备

微软专为Maia设计的水冷系统

图/ 微软

早在今年10月,《The Information》 就在报道中指出,面对AI晶片短缺、成本高昂的市况,微软从2019年就启动自研AI晶片专案“雅典娜Athena”,希望减缓成本压力,旗下的AI公司OpenAI则在考虑自研、收购公司或者加强和NVIDIA等GPU业者的合作。

延伸阅读:微软成功结亲动视暴雪!背后神队友揭密:年砸百亿打造“最强公关”

微软联手NVIDIA、AMD升级软硬件服务

微软在大会中也宣告和NVIDIA、AMD(超微)推出更深度的软硬件合作,NVIDIA执行长黄仁勋也亲自到现场站台宣布合作内容。

微软Microsoft IGNITE大会-NVIDIA合作黄仁勋

NVIDIA执行长黄仁勋现身微软Ignite大会站台。

图/ 微软 Ignite 大会

NVIDIA软硬件合作:明年引进更高阶的H200、还要推“AI代工服务”

微软和NVIDIA已经合作多年,采用H100加速器建造的超级电脑Eagle,在中国台湾时间15日才刚刚获得全球500大超级电脑中第三名的成绩,是云端业者首度进榜。

本次在硬件方面的合作,宣布在Azure中导入NVIDIA的“NC H100 v5虚拟机系列”,是以目前最高阶的GPU H100所设计的虚拟机服务,让微软用户可以“需要多少再用多少”,按照当下工作量的需求,弹性切分AI运算的资源。同时微软也宣告将在明年引入更高阶的H200规格,实现更短的反应时间。

软件方面,双方宣布联手推出“ AI代工服务 ”:NVIDIA AI Foundry Service in Azure,目的是提供工具和技术,让微软的企业客户和新创公司都可以轻松训练模型、开发生成式AI应用程式,黄仁勋指出“像是一个AI工厂,完全只为了AI而生。”

微软Microsoft IGNITE大会-NVIDIA合作

微软和NVIDIA在软硬件都推进更深度的合作。

图/ 微软 Ignite 大会

黄仁勋指出,这套系统是双方团队用12个月“超级忙碌”的状态下产出的作品,因为生成式AI改变了运算方法、网络连结、晶片到API的所有事情,而第一波进入这块领域的是微软等大型云端公司,第二波是拥有先进技术的AI新创,随着这套简单上手的系统和Copilot等助手的协助,一般企业将加入第三波的行列。

AMD:全新加速器MI300助攻AI运算

微软本次也宣布和AMD扩大合作,在资料中心加入AMD今年全新发布的Instinct MI300系列AI加速器,内含1400亿个电晶体,采用5或6奈米制程,专为AI加速运算所设计,纳德拉指出,这项深入合作将让微软用更少的GPU完成更庞大的任务。

天风国际分析师郭明上月指出,AMD明年将有超过50%的AI晶片出货给微软,代表微软成为AMD在AI晶片最大的客户。

延伸阅读:纳德拉让微软股价涨1000%!拆解重返荣耀之路,他如何让大象跳舞?

责任编辑:林美欣

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。