大模型训练及推理算力需求持续增长 国内产业链加速成熟

内容摘要  人工智能大模型的能力持续在升级,应用场景也越来越多。对应的算力、算法、数据都成为产业发展的关键环节。记者在世界人工智能大会现场了解到,当前相关市场需求持续高速增长,国内的产业链也在加速成熟。总台央视记者 宁坤:现在的人工智能大模型已经可

联系电话:400-962-3929

  人工智能大模型的能力持续在升级,应用场景也越来越多。对应的算力、算法、数据都成为产业发展的关键环节。记者在世界人工智能大会现场了解到,当前相关市场需求持续高速增长,国内的产业链也在加速成熟。

  总台央视记者 宁坤:现在的人工智能大模型已经可以装到智能眼镜里,它背后的训练要用大规模的算力去支撑。现场展出的一组机柜就是现在算力中心里会用到的一种超节点,它可以让数百张算力卡像一台计算机一样,实现高效的内部连接和运算,进一步突破了当前行业训练大模型所面临的算力瓶颈。

  近年来,全国多地都在持续投入建设大型数据中心,为人工智能大模型训练提供更充足的算力保障。工信部数据显示,截至2025年3月底,我国在用算力标准机架已达到1043万架,智能算力规模达到748每秒百亿亿次浮点运算,为海量数据计算提供了智能底座。

  华鲲振宇副总裁 宋璇:现在的算力训练需要的是万卡,甚至十万卡(算力卡的)集群。对通信的保障和算力的调度,以及硬件的高可靠性和稳定性提出了更高的要求。

  算力需求增长也带动硬件设备的更新。今年世界人工智能大会现场,不少国内算力产业链上的企业就集中展出了自己的最新技术。产业链各环节进步的叠加也为大模型技术演进提供了更多支撑。

  业内人士告诉记者,大模型的训练环节类似于让人工智能“学知识”,而推理环节则是让人工智能“做任务”。随着大模型应用量增多、AI智能体出现,现在业界除了要建更多的算力基础设施外,也在通过算法优化来提升算力的使用效率。

  稀宇极智开发者社区负责人 蔡佳人:有越来越多需求是来自越来越长的上下文文本长度,有越来越多的智能体需要从一开始整体的任务规划,到后面自己把一步一步任务做完,整体推理的相关需求就越来越多。我们做了一些算法优化能让算力成本下降。 【编辑:李润泽】

 
举报 收藏 打赏 评论 0
今日推荐
浙ICP备19001410号-1

免责声明

本网站(以下简称“本站”)提供的内容来源于互联网收集或转载,仅供用户参考,不代表本站立场。本站不对内容的准确性、真实性或合法性承担责任。我们致力于保护知识产权,尊重所有合法权益,但由于互联网内容的开放性,本站无法核实所有资料,请用户自行判断其可靠性。

如您认为本站内容侵犯您的合法权益,请通过电子邮件与我们联系:675867094@qq.com。请提供相关证明材料,以便核实处理。收到投诉后,我们将尽快审查并在必要时采取适当措施(包括但不限于删除侵权内容)。本站内容均为互联网整理汇编,观点仅供参考,本站不承担任何责任。请谨慎决策,如发现涉嫌侵权或违法内容,请及时联系我们,核实后本站将立即处理。感谢您的理解与配合。

合作联系方式

如有合作或其他相关事宜,欢迎通过以下方式与我们联系: