MLPerf公布了最新的大模型推理测试结果,墨芯人工智能公司的S30计算卡在单卡、4卡和8卡的性能测试中均夺得第一名。墨芯通过独创的双稀疏算法与硬件协同设计,在***-J大模型上取得了比英伟达H100高出1.8倍的性能优势。![墨芯人工智能公司再次夺得MLPerf大模型推理三项冠军](https://cnschat-1315638552.cos.ap-guangzhou.myqcloud.com/2023/09/20230916053126466.png?imageMogr2/format/webp/interlace/1/quality/100)
这一成绩证明了稀疏计算在大模型时代中的重要性,它可以根本性地解决大模型参数增长与算力瓶颈之间的矛盾。墨芯已经推出了支持多种大模型的AI计算平台,具有高性能和高效率。
业界认为,墨芯等稀疏计算创新将推动大模型应用在各行各业中的深入发展。墨芯在MLPerf的表现不仅肯定了其产品的实力,也证明稀疏计算将帮助大模型算力实现根本性变革。