文章详情
国产GPU可替代!摩尔线程千卡集群点亮新成就
2024-06-03 328

摩尔线程、无问芯穹联合宣布,双方已经正式完成MT-infini-3B 3B(30亿参数)规模大模型的实训,基于摩尔线程国产全功能GPU MTT S4000组成的千卡集群,以及无问芯穹的AIStudio PaaS平台。

本次实训充分验证了夸娥千卡智算集群在大模型训练场景下的可靠性,同时也在行业内率先开启了国产大语言模型与国产GPU千卡智算集群深度合作的新范式。

据悉,这次的MT-infini-3B模型训练总共用时13.2天,全程稳定无中断,集群训练稳定性达到100%,千卡训练和单机相比扩展效率超过90%。

目前,实训出来的MT-infini-3B性能在同规模模型中跻身前列,相比在国际主流硬件上(尤其是NVIDIA)训练而成的其他模型,在C-Eval、MMLU、CMMLU等3个测试集上均实现性能领先。

无问芯穹正在打造“M种模型”和“N种芯片”之间的“M x N”中间层产品,实现多种大模型算法在多元芯片上的高效、统一部署,已与摩尔线程达成深度战略合作。

摩尔线程是第一家接入无问芯穹并进行千卡级别大模型训练的国产GPU公司,夸娥千卡集群已与无穹Infini-AI顺利完成系统级融合适配,完成LLama2 700亿参数大模型的训练测试。

T-infini-3B的训练,则是行业内首次实现基于国产GPU芯片从0到1的端到端大模型实训案例。

就在日前,基于摩尔线程的夸娥千卡集群,憨猴集团也成功完成了7B、34B、70B不同参数量级的大模型分布式训练,双方还达成战略合作。

经双方共同严苛测试,兼容适配程度高,训练效率达到预期,精度符合要求,整个训练过程持续稳定。

【近6万张加速卡!中国移动新建3个超大规模智算中心】

在第七届数字中国建设峰会期间,中国移动也正式发布了由万卡级智算集群、千亿多模态大模型、汇聚百大要素的生态平台共同构成的“九天”人工智能基座。

首先,中国移动三年来已经初步建成规模全面、技术领先的全国性算力网络,建成智算网络新集群。

中国移动在年内投产3个近两万卡超大规模单体智算中心、12个区域智算中心。

中国移动还会升级1500个边缘节点,训练、推理推算力资源配比上升至1:10,为全社会提供算力。

其次,中国移动自主研发了“1+N”通用、专用大模型体系,打造了千亿参数多模态大模型,支持语言、视觉、语音、结构化数据、多模态等全模态,具备十亿、百亿、千亿等多参数版本。

九天千亿多模态大模型还融合了通信、电力、运输、能源、钢铁、建筑、交通、航空等各行各业专业知识,国内预训练行业数据占比最高,已达10%,全球领先。

中国移动已自主研发15个行业大模型,布局40款自研行业大模型,其中政务大模型已在多个省级数字政府项目落地应用,医疗大模型与多家国内龙头三甲医院合作,服务于急救、问诊、会诊等场景。

第三,中国移动积极构建九天生态汇聚平台,已汇聚并开放30多个“自有+开源+生态”大模型、20多个高质量数据集,后续将逐步开放百个大模型、百个数据集和百个AI应用。

此外,中国移动宣布开放大模型训练基地、大模型评测基地、大模型产业创新基地等三大AI基地,面向全社会提供大模型从训到推、AI+原生应用孵化等一站式产业带动服务。

最后,中国移动了发布23款AI+产品、20个AI+DICT行业应用,持续推动AI技术的发展和应用。

累计6868.5亿元!国家集成电路大基金三期正式成立

据企查查APP显示,近日,国家集成电路产业投资基金三期股份有限公司(以下简称“大基金三期”)成立,注册资本高达3440亿元。

大基金三期的经营范围为私募股权投资基金管理、创业投资基金管理服务,以私募基金从事股权投资、投资管理、资产管理等活动,企业管理咨询。

股权穿透显示,该公司由19位股东共同持股,国家财政部持股比例最高为17.4419%,然后是国开金融10.4651%、上海国盛8.7209%。

其他主要股东中还有不少国家级银行:建设银行6.25%、中国银行6.25%、工商银行6.25%、农业银行6.25%、交通银行5.8140%。

有分析认为,大基金三期的具体投资方向和目标是加快国内半导体的发展进程,可能会重点关注半导体产业链关键的“卡脖子”环节和技术进步,以促进国内集成电路产业的整体发展。

资料显示,大基金一期成立于2014年9月24日,总规模1387亿元,重点投资集成电路芯片制造业,兼顾芯片设计、封装测试、设备和材料等产业。

有统计显示,大基金一期(包含子基金)总共撬动了5145亿元社会资金,资金撬动比例达1:3.7。

大基金二期成立于2019年10月22日,注册资本增至2041.5亿元,投资方向更加多元化,涵盖晶圆制造、集成电路设计工具、芯片设计、封装测试、装备、零部件、材料、应用等等。 

如果按照1:4的资金撬动比例估算,大基金二期可带动8166亿元的的社会资金,总投资规模可超万亿。

近几年来,国内芯片企业如雨后春笋般涌现,不少已在A股上市,背后很多都有着大基金一期、二期的支持。

三期合计,大基金的总规模已达6868.5亿元。


【竞争不过华为910B!曝NVIDIA已下调中国特供H20芯片价格】

国产慢慢崛起,NVIDIA自然就不香了,因中国市场对其特供的AI芯片H20系列需求不佳,已经下调了H20系列芯片的价格。

据三位供应链人士透露,中国服务器经销商目前以每组约人民币10万元的价格销售H20芯片,而搭载八组芯片的服务器每台售价介于人民币110万元至130万元。

这一价格在某些情况下比华为Ascend 910B芯片低10%以上。

而在2月初,英NVIDIA H20在中国接受预定时,渠道定价在12000至15000美元之间,部分渠道商报价高达约11万元人民币。

英伟达H20芯片是在美国出口管制影响下,针对中国市场推出的一款性能有所降低的产品。

H20基于英伟达H100 GPU的阉割版,内存容量为96GB,运行速度高达4.0Tb/s,运算能力为296TFLOPs,性能密度仅为2.9。

相比之下,H100拥有80GB HBM3内存,内存频宽3.4Tb/s,运算能力高达1979TFLOP,性能密度高达19.4,这意味着H20的AI算力只有H100的不到15%,部分性能甚至不及Ascend 910B。

市场人士指出,华为今年将大幅增加Ascend 910B芯片的出货量,且该芯片在一些关键指标上的表现优于H20。

研究机构SemiAnalysis的创始人Dylan Patel预测,2024年下半年将有近100万片H20芯片运往中国,NVIDIA必须在价格上与华为竞争,才有可能在中国市场拿到足以消化这么多芯片的订单。



关键词:硬件技术,计算机技术
相关文章
  • AMD RX 9070 GRE首发评测:游戏碾压RTX 5060 Ti 16GB 超频接近RTX 5070
    硬件技术,计算机技术
    2025-05-20
  • 中国人自己的电脑终于来了!华为首款鸿蒙PC明天亮相:相比Windows有三大优势
    硬件技术,计算机技术
    2025-05-20
  • RTX 5060上市时间、中国定价公布:首次杀入2500元
    硬件技术,计算机技术
    2025-05-20
硬件世界

深耕硬件领域22年一起研究探讨硬件知识吧!

进入