墨芯人工智能公司再次夺得MLPerf大模型推理三项冠军

MLPerf公布了最新的大模型推理测试结果,墨芯人工智能公司的S30计算卡在单卡、4卡和8卡的性能测试中均夺得第一名。墨芯通过独创的双稀疏算法与硬件协同设计,在***-J大模型上取得了比英伟达H100高出1.8倍的性能优势。墨芯人工智能公司再次夺得MLPerf大模型推理三项冠军

这一成绩证明了稀疏计算在大模型时代中的重要性,它可以根本性地解决大模型参数增长与算力瓶颈之间的矛盾。墨芯已经推出了支持多种大模型的AI计算平台,具有高性能和高效率。

业界认为,墨芯等稀疏计算创新将推动大模型应用在各行各业中的深入发展。墨芯在MLPerf的表现不仅肯定了其产品的实力,也证明稀疏计算将帮助大模型算力实现根本性变革。

版权声明:AI导航网 发表于 2023-09-16 13:32:00。
转载请注明:墨芯人工智能公司再次夺得MLPerf大模型推理三项冠军 | AI导航网

暂无评论

暂无评论...