业界动态
摩尔线程:国产GPU万卡集群来了,模型,平台,推理
2024-07-15 04:07:17
摩尔线程:国产GPU万卡集群来了,模型,平台,推理

本文作者:张逸凡(fan)

编辑:申思琦

来源:硬AI

7月4日至7日,2024世界人工智能大会(WAIC)在上海(hai)举行,本届WAIC除了AI大模型外,还有一个亮点来自硬件。

国产GPU厂商摩尔线程以"全(quan)栈AI 为美好世界加速"为主(zhu)题,携全(quan)栈AI产品和万卡集(ji)群解(jie)决方案首次亮相(xiang)WAIC,展示了包括计算加速卡、服务器、超融合一体(ti)机、万卡集(ji)群方案和AIGC应用在内的摩尔线程全(quan)栈AI产品,以及携手(shou)众多(duo)行业(ye)合作伙伴联(lian)合展示基于夸娥智算集(ji)群的丰富行业(ye)大模型与应用方案。

一、全(quan)栈AI产品线首次出展

成立仅三年(nian)半,摩尔线程已经建立了从芯片、加速卡、服务器、集(ji)群到软件的全(quan)栈AI智算产品线。

其(qi)中全(quan)功能GPU芯片更是采用先进MUSA架构,具备(bei)集(ji)成AI计算加速、图(tu)形渲染、视频(pin)编解(jie)码、物理仿(fang)真和科(ke)学计算等四大功能。

本次展会上,公司展出了以下重磅产品:

  • 大模型智算加速卡MTT S4000:专为大模型打造,单卡支持48GB显存;
  • AI大模型训推一体(ti)机MCCX D800:双路8卡GPU服务器;
  • AI超融合一体(ti)机KUAE FUSION:灵活部署的推理、训练、微调一体(ti)化解(jie)决方案;
  • 夸娥(KUAE)万卡智算集(ji)群:可(ke)扩展至万卡规模的大模型训练平(ping)台;

摩尔线程的展台分(fen)为三大板块 ——

  • 夸娥平(ping)台:万卡AI算力底座;
  • AIGC:加速释放创作生(sheng)产力;
  • AI+产业(ye)数(shu)智化升级;

1)夸娥平(ping)台:万卡AI算力底座

“夸娥平(ping)台”是一个覆盖(gai)AI全(quan)栈的解(jie)决方案,作为AI算力底座,展示了强大的性能和广泛的兼容(rong)性。包含夸娥集(ji)群管理平(ping)台、夸娥模型服务平(ping)台和夸娥大模型推理平(ping)台三大核心产品:

  • 夸娥集(ji)群管理平(ping)台:实现智算中心运维自动化;
  • 夸娥模型服务平(ping)台:提(ti)供大模型生(sheng)命周期管理;
  • 夸娥大模型推理平(ping)台:支持主(zhu)流推理框架;

夸娥集(ji)群管理平(ping)台(KUAE Platform)实现了多(duo)数(shu)据中心、多(duo)集(ji)群算力资源的灵活管理,集(ji)成了多(duo)维度运维监控、告警和日志系统,助力智算中心实现运维自动化。

夸娥模型服务平(ping)台(KUAE ModelStudio)覆盖(gai)了大模型预(yu)训练、微调和推理全(quan)流程,支持所(suo)有主(zhu)流开源大模型,并通过MUSIFY代码移植工具实现了对CUDA应用生(sheng)态的良(liang)好兼容(rong)。

夸娥大模型推理平(ping)台基于高效的MT Transformer引擎,支持业(ye)内主(zhu)流vLLM推理框架和MUSA Serving自研推理框架,实现了对长(chang)文本推理、动态连续Batch、MoE等热点技术的支持。

2)AIGC:加速释放创作生(sheng)产力

在AIGC创意工具方面,摩尔线程也(ye)展示了内容(rong)创作、图(tu)像生(sheng)成等产品。

"摩笔马良(liang)"是一个AIGC内容(rong)创作平(ping)台,集(ji)成了自研大语言模型和先进的图(tu)像生(sheng)成技术。该平(ping)台以夸娥智算集(ji)群为算力底座,成功部署了MUSAChat自研大语言模型,能够补足Prompt工程,润色和翻译用户输入文本。该平(ping)台可(ke)灵活调用SDXL和SD1.5两代模型能力,生(sheng)成细节丰富的图(tu)像。

"创意人像"功能能够快速生(sheng)成个性化肖(xiao)像。基于SDXL模型并结合多(duo)种IP-Adapter、ControlNet技术,用户只(zhi)需上传一张照片并描述目标风格,即可(ke)在1分(fen)钟内获得个性化人像。

"摩笔天书"则提(ti)供了全(quan)自动的绘本生(sheng)成解(jie)决方案。通过输入标题和简(jian)要故事大纲(gang),一键生(sheng)成完整故事、绘本图(tu)片、旁白、字幕和背景音乐。

此外,摩尔线程还开发了MT AIReality渲染平(ping)台,旨在革新影视、动画等领域的资产制作流程,用更低的成本完成高质量(liang)的实时渲染。值得一提(ti)的是,摩尔线程还参与了Open Sora Plan,利用其(qi)夸娥智算集(ji)群为AI视频(pin)生(sheng)成提(ti)供强大的算力支持,旨在集(ji)结开源社区力量(liang)完成对Sora文生(sheng)视频(pin)的复现。

3)AI+产业(ye)数(shu)智化升级

在产业(ye)应用方面,摩尔线程展示了交通、金融、安防(fang)等多(duo)个行业(ye)落地方案。

与上海(hai)人工智能实验(yan)室合作的"书生(sheng)·风乌"大模型实现了全(quan)球10天以上天气的10公里级建模与预(yu)报,并在24小时内完成从CUDA到MUSA的快速生(sheng)态迁(qian)移。

在智慧交通领域,摩尔线程与佳都科(ke)技合作的全(quan)息路口(kou)解(jie)决方案以三维高精地图(tu)为底座,结合佳都自研知行大模型,实现了实时交通信(xin)息传递(di)与智能化处理。

在金融服务方面,摩尔线程为Reportify提(ti)供的高效、稳定的大模型在线服务,经受住了高流量(liang)业(ye)务冲击,大幅(fu)提(ti)升了数(shu)据处理效率。

此外,摩尔线程还展示了在智慧安防(fang)、AI辅助决策等领域的应用。公司的全(quan)功能GPU在人工智能、视频(pin)编解(jie)码等方面的多(duo)元算力支持,满足了智慧安防(fang)系统对多(duo)种模态数(shu)据输入的需求。与中科(ke)闻歌合作的雅意大模型则在政策解(jie)读、舆情感知、政务治理、金融分(fen)析(xi)等领域展现出低延迟、高精度的特性。

发布于:上海(hai)市
版权号:18172771662813
 
    以上就是本篇文章的全部内容了,欢迎阅览 !
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 移动站 , 查看更多   
sitemapsitemap1sitemap2sitemap3sitemap4sitemap5sitemap6sitemap7