国产训推达到国际水准!摩尔线程已媲美
-
国产训推达到国际水准!摩尔线程已媲美
快科技6月14日消息,摩尔线程官方宣布,2024年5月份与智谱AI开展了新一轮GPU大模型适配、性能测试,包括大模型推理、基于夸娥(KUAE)千卡智算集群的大模型预训练。测试使用的相关大模型,来自智谱AI基座大模型及其开源版本。测试结果表明,在推理方面,摩尔线程自研全功能GPU显著优于基准对比产品RTX3090和RTX4090,其中全部测试用例中优于RTX3090,在多batch下优于RTX4090。在训练方面,摩尔线程夸娥千卡智算集群的训练精度与A100集群相比,误差在1%以内,而集群性能扩展系数超过90%,模型...