完美运行DeepSeek

内容摘要快科技5月7日消息,作为国家权威技术验证平台,中国信通院构建了AI芯片与大模型协同适配的标准化体系,并开展适配验证工作。经中国信通院检测,摩尔线程自主研发的训推一体计算卡MTT S4000,在推理场景下与DeepSeek-R1 671B大模

快科技5月7日消息,作为国家权威技术验证平台,中国信通院构建了AI芯片与大模型协同适配的标准化体系,并开展适配验证工作。

经中国信通院检测,摩尔线程自主研发的训推一体计算卡MTT S4000,在推理场景下与DeepSeek-R1 671B大模型的适配结果,符合 AI芯片和大模型通过性适配要求 ,成功通过中国信通院《AI芯片和大模型适配能力通过性评测软硬件环境及测试细则》推理场景验证。

根据验证,摩尔线程MTT S4000可实现正常、稳定运行,满足推理使用需求,符合通过性适配验证条件,并获颁检测证书。

目前,摩尔线程系列训推一体计算卡正在开展优化性适配验证工作,相关结果将在检测流程结束后另行公布。

完美运行DeepSeek-R1 671B:摩尔线程MTT S4000通过中国信通院AI芯片和大模型适配验证

MTT S4000是基于摩尔线程全功能GPU架构,专为大模型打造的训推一体通用计算卡,支持FP64、FP32、TF32、FP16、BF16、INT8等各种计算精度,配备48GB显存,支持vLLM-MUSA推理框架、MUTLASS、Triton-MUSA等组成的完善MUSA生态。

它支持摩尔线程自研的MTlink 1.0技术,可实现多卡互联、千卡集群部署,支持千亿参数大模型的训练、微调和推理。

同时,它还兼具先进的图形渲染、视频编解码、超高清8K HDR显示能力求。

近期,摩尔线程还推出了搭载MTT S4000计算卡的MCCX DeepSeek大模型一体机,全面支持从蒸馏版到671B参数全量版DeepSeek模型的部署需求。

完美运行DeepSeek-R1 671B:摩尔线程MTT S4000通过中国信通院AI芯片和大模型适配验证

 
举报 收藏 打赏
24小时热闻
今日推荐
浙ICP备19001410号-1