今天分享的是【2024人工智能算力高水平质量的发展评估体系报告】 报告出品方：浪潮信息&中国信通院

　　人工智能以生成式 AI技术为核心加快速度进行发展。以ChatGPT为代表的 AIGC 技术加速成为 AI领域的最新发展趋势，对经济社会持续健康发展产生了重大的影响。随着人工智能预训练大模型的慢慢的提升、AIGC 算法的持续创新，以及多模态AI技术的日益普及，AI已经能够生成包括文本、代码、图像、语音和视频在内的多样化内容。这些技术的发展提升了 AIGC 模型的通用性和工业化水平，AIGC 的商业潜力变得更显著，如今大模型已成为企业在 AI领域竞争的核心焦点,

　　算力成为推动生成式 AI发展的关键。在大模型训练和生成式AI应用的推动下，GPU 和异构计算资源需求明显地增长，算力的提升从简单的硬件扩展发展为涵盖算法优化、系统模块设计、资源调度和网络通信等多个层面的系统优化,算力性能和效率对模型推理、训练至关重要在大模型训练中，一般会用多机多卡构建的算力集群进行分布式训练,而拥有大量的计算节点并不等同于拥有强大的计算能力。在分布式训练环境中,拥有数千亿至万亿参数的庞大模型通信时间可能占据整个训练过程的一半,网络通信和数据缓存等瓶颈问题会明显降低训练效率。另外，随着模型参数量增加，传统的训练方式有几率会使训练过程中算力利用率的降低。在大模型训练中，Checkpoint机制常用于在训练中定期保存模型参数，然而对于参数量极大的模型，该训练方式有几率会使显著的写入延迟，如GPT-3(1750 亿参数)，以15GB/s的文件系统写入速度计算，完成一次 Checkpoint 需要 2.5 分钟，这不仅增加了训练时间，也降低了 GPU 的利用率。

　　国家以直接投资或补贴方式推动算力产业投资建设。美国计划5年内投资2800亿美元以保持美国在芯片技术领域的领头羊;中国全面启动“东数西算”工程，截至2024年6月底，“东数西算”八大国家枢纽节点直接投资超过435亿元，拉动投资超过2000亿元;欧盟计划提供12亿欧元的公共资金用于“欧洲共同利益重要计划-下一代云基础设施和服务”;日本经济产业省拟为5家日本公司可以提供总额725 亿日元的补贴，用于打造AI超级计算机。随着全球各国在算力领域的竞争愈发激烈,算力相关产业市场规模将呈现持续增长态势。以AI服务器为例，据IDC预测，未来几年全球AI服务器市场规模将持续增加。