业界动态
摩尔线程:国产GPU万卡集群来了,模型,平台,推理
2024-07-15 00:31:11
摩尔线程:国产GPU万卡集群来了,模型,平台,推理

本文作者:张逸凡

编(bian)辑:申思琦

来源(yuan):硬AI

7月(yue)4日至7日,2024世界人工智能大会(WAIC)在上海举行,本届WAIC除了(le)AI大模型(xing)外(wai),还有一个亮点来自硬件。

国产GPU厂商摩尔(er)线程以"全栈(zhan)AI 为美好世界加速"为主(zhu)题(ti),携全栈(zhan)AI产品和万(wan)卡集群解决方案(an)首次亮相WAIC,展示了(le)包括计算(suan)加速卡、服务器(qi)、超融合一体机(ji)、万(wan)卡集群方案(an)和AIGC应用在内的摩尔(er)线程全栈(zhan)AI产品,以及携手众多行业合作伙伴联合展示基(ji)于夸娥智算(suan)集群的丰富行业大模型(xing)与应用方案(an)。

一、全栈(zhan)AI产品线首次出展

成立仅三年半,摩尔(er)线程已经建立了(le)从芯片、加速卡、服务器(qi)、集群到软件的全栈(zhan)AI智算(suan)产品线。

其中全功能GPU芯片更是采用先进MUSA架构,具备集成AI计算(suan)加速、图(tu)形渲染、视频(pin)编(bian)解码、物(wu)理(li)仿(fang)真和科学计算(suan)等四大功能。

本次展会上,公司展出了(le)以下重磅产品:

  • 大模型(xing)智算(suan)加速卡MTT S4000:专(zhuan)为大模型(xing)打造,单卡支持48GB显存;
  • AI大模型(xing)训推一体机(ji)MCCX D800:双路8卡GPU服务器(qi);
  • AI超融合一体机(ji)KUAE FUSION:灵(ling)活部署的推理(li)、训练、微调一体化解决方案(an);
  • 夸娥(KUAE)万(wan)卡智算(suan)集群:可扩展至万(wan)卡规模的大模型(xing)训练平台;

摩尔(er)线程的展台分为三大板块 ——

  • 夸娥平台:万(wan)卡AI算(suan)力底(di)座(zuo);
  • AIGC:加速释放创作生产力;
  • AI+产业数智化升级;

1)夸娥平台:万(wan)卡AI算(suan)力底(di)座(zuo)

“夸娥平台”是一个覆盖AI全栈(zhan)的解决方案(an),作为AI算(suan)力底(di)座(zuo),展示了(le)强大的性能和广(guang)泛(fan)的兼容性。包含夸娥集群管理(li)平台、夸娥模型(xing)服务平台和夸娥大模型(xing)推理(li)平台三大核心产品:

  • 夸娥集群管理(li)平台:实现智算(suan)中心运维自动化;
  • 夸娥模型(xing)服务平台:提供大模型(xing)生命周期管理(li);
  • 夸娥大模型(xing)推理(li)平台:支持主(zhu)流推理(li)框架;

夸娥集群管理(li)平台(KUAE Platform)实现了(le)多数据中心、多集群算(suan)力资源(yuan)的灵(ling)活管理(li),集成了(le)多维度运维监控、告警和日志系统,助力智算(suan)中心实现运维自动化。

夸娥模型(xing)服务平台(KUAE ModelStudio)覆盖了(le)大模型(xing)预训练、微调和推理(li)全流程,支持所有主(zhu)流开源(yuan)大模型(xing),并通过MUSIFY代(dai)码移植工具实现了(le)对(dui)CUDA应用生态的良好兼容。

夸娥大模型(xing)推理(li)平台基(ji)于高(gao)效的MT Transformer引擎,支持业内主(zhu)流vLLM推理(li)框架和MUSA Serving自研推理(li)框架,实现了(le)对(dui)长(chang)文本推理(li)、动态连续Batch、MoE等热点技术的支持。

2)AIGC:加速释放创作生产力

在AIGC创意工具方面(mian),摩尔(er)线程也(ye)展示了(le)内容创作、图(tu)像生成等产品。

"摩笔马良"是一个AIGC内容创作平台,集成了(le)自研大语言模型(xing)和先进的图(tu)像生成技术。该平台以夸娥智算(suan)集群为算(suan)力底(di)座(zuo),成功部署了(le)MUSAChat自研大语言模型(xing),能够补足Prompt工程,润色(se)和翻(fan)译用户输(shu)入文本。该平台可灵(ling)活调用SDXL和SD1.5两(liang)代(dai)模型(xing)能力,生成细(xi)节丰富的图(tu)像。

"创意人像"功能能够快速生成个性化肖(xiao)像。基(ji)于SDXL模型(xing)并结合多种(zhong)IP-Adapter、ControlNet技术,用户只需上传一张照片并描述(shu)目标(biao)风格,即(ji)可在1分钟内获得(de)个性化人像。

"摩笔天书"则提供了(le)全自动的绘本生成解决方案(an)。通过输(shu)入标(biao)题(ti)和简要故事大纲,一键生成完整故事、绘本图(tu)片、旁白、字幕和背景音乐。

此外(wai),摩尔(er)线程还开发了(le)MT AIReality渲染平台,旨在革新(xin)影视、动画(hua)等领域的资产制作流程,用更低的成本完成高(gao)质量的实时渲染。值得(de)一提的是,摩尔(er)线程还参与了(le)Open Sora Plan,利用其夸娥智算(suan)集群为AI视频(pin)生成提供强大的算(suan)力支持,旨在集结开源(yuan)社区力量完成对(dui)Sora文生视频(pin)的复(fu)现。

3)AI+产业数智化升级

在产业应用方面(mian),摩尔(er)线程展示了(le)交通、金融、安防等多个行业落地方案(an)。

与上海人工智能实验室合作的"书生·风乌"大模型(xing)实现了(le)全球10天以上天气的10公里级建模与预报,并在24小时内完成从CUDA到MUSA的快速生态迁移。

在智慧交通领域,摩尔(er)线程与佳(jia)都(dou)科技合作的全息路口解决方案(an)以三维高(gao)精地图(tu)为底(di)座(zuo),结合佳(jia)都(dou)自研知行大模型(xing),实现了(le)实时交通信息传递与智能化处理(li)。

在金融服务方面(mian),摩尔(er)线程为Reportify提供的高(gao)效、稳定的大模型(xing)在线服务,经受住了(le)高(gao)流量业务冲击,大幅提升了(le)数据处理(li)效率。

此外(wai),摩尔(er)线程还展示了(le)在智慧安防、AI辅助决策等领域的应用。公司的全功能GPU在人工智能、视频(pin)编(bian)解码等方面(mian)的多元算(suan)力支持,满足了(le)智慧安防系统对(dui)多种(zhong)模态数据输(shu)入的需求。与中科闻歌合作的雅意大模型(xing)则在政策解读、舆(yu)情感知、政务治理(li)、金融分析等领域展现出低延迟(chi)、高(gao)精度的特性。

发布于:上海市
版权号:18172771662813
 
    以上就是本篇文章的全部内容了,欢迎阅览 !
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 移动站 , 查看更多   
sitemapsitemap1sitemap2sitemap3sitemap4sitemap5sitemap6sitemap7