99科技给大家分享各类生活学习资讯!
您现在的位置是: 首页 > 人工智能 > 摩尔线程和无问芯穹联手首次实现国产GPU端到AI大模型实训

摩尔线程和无问芯穹联手首次实现国产GPU端到AI大模型实训

近日,NVIDIA确实在国内市场面临了日益增大的挑战。从5月25日的文章《受华为AI芯片挑战,NVIDIA中国特供GPU降价?》中,我们可以看到,NVIDIA正受到华为昇腾910B等竞争产品的强烈冲击。这一竞争态势导致NVIDIA不得不调整其定价策略,将其一些产品的价格定得低于中国国内竞争对手的硬件价格。

摩尔线程和无问芯穹联手首次实现国产GPU端到AI大模型实训

而在今天,摩尔线程、无问芯穹更是放出大招,联合宣布正式完成MT-infini-3B 3B(30亿参数)规模大模型的实训,而使用的平台就是摩尔线程国产全功能GPU MTT S4000组成的千卡集群,以及无问芯穹的AIStudio PaaS平台。

这次实训充分验证了夸娥千卡智算集群在大模型训练场景下的可靠性,同时也在行业内率先开启了国产大语言模型与国产GPU千卡智算集群深度合作的新范式,完全可以替代NVIDIA。

目前,实训出来的MT-infini-3B性能在同规模模型中跻身前列,相比在国际主流硬件上(尤其是NVIDIA)训练而成的其他模型,在C-Eval、MMLU、CMMLU等3个测试集上均实现性能领先。

摩尔线程和无问芯穹联手首次实现国产GPU端到AI大模型实训

长期以来,由于国内GPU厂商产品缺乏竞争力,即使在美国贸易限令的情况下,NVIDIA的显卡在国内也是“一卡难求”,GPU价格更是水涨船高。如今摩尔线程国产全功能GPU MTT S4000组成的千卡集群,也能够很好的满足国内人工智能、大模型计算等业务场景需求。

摩尔线程是第一家接入无问芯穹并进行千卡级别大模型训练的国产GPU公司,夸娥千卡集群已与无穹Infini-AI顺利完成系统级融合适配,完成LLama2 700亿参数大模型的训练测试。

无问芯穹联合创始人兼 CEO 夏立雪表示,当前无问芯穹正在打造“M 种模型”和“N 种芯片”之间的“M x N”中间层产品,实现多种大模型算法在多元芯片上的高效、统一部署,已与摩尔线程达成深度战略合作,而目前“MT-infini-3B”这一训练成果是行业内首次实现基于国产 GPU 芯片从 0 到 1 的端到端大模型实训案例。

小米米家智能腰部按摩仪预售

2024/5/27 15:07:32

极氪汽车回应车主被锁车内10分钟报道

2024/5/27 15:10:56