两强合作!群联携手联发科推动生成式 AI 运算与服务

两强合作!群联携手联发科推动生成式 AI 运算与服务

群联与联发科共同宣布,透过群联创新 AI 运算服务“aiDAPTIV+”,与联发科领先生成式 AI 服务平台“MediaTek DaVinci”深度整合,共同开创 AI 运算与应用服务新时代,加速普及生成式 AI 至日常生活。

“MediaTek DaVinci”平台是联发科基于 GAI 服务框架 (GAISF) 打造的先进生成式 AI 服务开放式平台,开发者可在“MediaTek DaVinci”平台开发各类实用插件,建立丰富的生态系统,同时提升使用者的互动体验。群联“aiDAPTIV+”服 务方案,独特 SSD 整合 AI 运算架构,将大型 AI 模型进行结构性拆分,并与 SSD 协同运行。这种方法不仅大幅降低了 AI 基础建设的硬件成本,还提高运算效率,使有限 GPU 与 DRAM 资源下也能训练大型 AI 模型。

“aiDAPTIV+”技术已在工业 4.0 领域获实证,也将持续协助各产业加速 AI 转型,提升企业竞争力。相较传统 AI 服务器架构,群联“aiDAPTIV+”方案相同 AI 模型微调训练运算条件下,整体电力较少,也符合减少能源消耗和碳足迹的环保趋势。

“aiDAPTIV+”方案已协助国立阳明交通大学廖元甫教授的客台语 AI 提升辨识准确度,与联发科“MediaTek DaVinci”结合,拓展“aiDAPTIV+”应用范畴,为 AI 服务市场注入新动力,不仅有更优质体验,也为开发者开辟更广阔的创新空间。

群联与联发科合作效益有:

1. 创新的 AI 运算架构:“aiDAPTIV+”模型结构分拆并与 SSD 协同,支援更大型 AI 模型训练。

2. 提升成本效益:降低 AI 服务硬件建构成本,使 AI 应用更广泛且经济。

3. 提升“MediaTek DaVinci”平台扩展性:结合“aiDAPTIV+”后,为开发者提供更多元客制化插件的开发可能性。

4. 加速部署终端 AI 应用:透过结构性拆分 AI 模型,“aiDAPTIV+”快速适应不同应用需求。

5. 更符合 ESG 趋势的解决方案:“aiDAPTIV+”降低 AI 模型微调运算的总电力需求,减少能源消耗和碳足迹,符合环保趋势。

透过群联“aiDAPTIV+”方案与联发科“MediaTek DaVinci”平台合作,AI 服务器厂商提供完整终端软硬件整合方案,使 AI 服务器产品更具竞争力,为终端客户提供一站式 AI 服务。

(首图来源:群联)

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。