上海仅排名第五！ IDC发布2021-2022年中国人工智能算力报告

一、人工智能算力及应用现状

随着人工智能向多场景、大规模、集成、包容等高应用阶段方向发展，数据量呈现爆发式增长，算法模型的参数数量呈指数级增长，以加速计算为核心的算力中心规模不断扩大。 IDC预测，2025年全球新增数据量将超过160ZB。除了数据量激增，还有几大变化：

企业创造的数据量已超过消费者，成为最大的数据产生源；

数据类型发生变化，图像、视频等非结构化数据开始大量生成；

实时数据占比逐年增加，预计到2024年，2020年实时数据将占整个数据圈的四分之一；

现在数据越来越集中在核心数据中心，而不是末端。 IDC 预测，到 2025 年，核心数据的份额将从现在的 40% 增加到 60% 以上。

此外，人工智能在训练、验证和部署阶段往往面临应用场景的多样化和海量数据带来的诸多挑战。这就需要算力在支持大规模部署的同时，满足高并发、高弹性、高精度等不同的计算需求，持续高效地为不同的人工智能负载提供算力。从人工智能芯片、人工智能服务器、人工智能云服务、人工智能算法模型和人工智能应用五个方面分析人工智能算力的应用现状。

1、人工智能芯片

人工智能在各领域的研究与应用取得快速发展，推动了数字化、智能化在多个行业的渗透。随着数据的海量增长，算法模型趋于复杂，处理对象异构，计算性能要求高。 AI芯片专为人工智能算法和应用而设计，能够高效处理人工智能应用中日益复杂的计算任务。在人工智能渗透率不断扩大的数字时代，芯片的多样化展现出广阔的应用前景，通过不断演进的架构为下一代计算提供源源不断的动力。

从需求端看，企业对人工智能芯片的需求越来越大，人工智能芯片应用到智慧城市、智能制造、智能金融、自动驾驶等越来越多的领域。在建设和发展过程中，为支持语音识别、计算机视觉、自然语言处理、机器学习等技术在实际业务和场景中的应用，企业对AI芯片的关注度越来越高。

对于供给端，强劲的市场需求为供给端打开了机会之窗。人工智能在行业不同场景下的差异化应用，使得人工智能芯片产品需要具备差异化的特性。人工智能芯片的广泛应用和场景的不断丰富，为专注于人工智能芯片研发的厂商带来了绝佳的发展机遇。越来越多的芯片厂商，如寒武纪、穗元科技、地平线、比特大陆等参与到行业发展中，加速芯片产品的研发，不断推出新产品，满足市场从训练到推理的需求，从云端到边缘等多维需求。通过针对特定场景优化芯片，提高人工智能应用的执行速度，拓展在车联网、智能安防、物联网、智能语音等领域的应用。

供需变化持续推动人工智能芯片产业和技术多元化创新发展：

AI芯片主要包括图形处理单元（GPU）、现场可编程门阵列（FPGA）、专用集成电路（ASIC）、神经形态芯片（NPU）等。人工智能的深度学习需要异常强大的并行处理能力。芯片制造商正在通过不断开发和升级新的芯片产品来应对这一挑战，尤其是 GPU，还有 FPGA、ASIC 和 NPU。

IDC研究发现，2021年上半年中国人工智能芯片中，GPU仍是数据中心加速的首选，占据90%以上的市场份额，而ASIC、FPGA、NPU等非-GPU芯片也越来越多地被各个行业和领域采用，整体市场份额接近10%，预计到2025年占比将超过20%。神经形态芯片具有低功耗、低延迟等优势, 处理速度快。它们的工业化和商业化仍在不断发展。机器学习的发展和对大脑的深入研究，将为神经形态芯片的进一步发展带来更多机遇。很多可能性。

中国人工智能服务器市场规模（按加速卡类型）

AI 芯片需要高效地支持推理和训练任务。训练是指借助大量现有数据样本进行学习以获得更准确的识别和分类等能力的过程。它对计算精度要求很高，直接影响推理的准确性。这就要求训练芯片要有强大的单片计算能力，而目前GPU芯片被认为更适合承载训练负载。推理过程是指利用这些能力对新数据完成特定的任务（如分类、识别等）。

据IDC研究，2020年中国数据中心推理芯片市场份额已超过50%，预计到2025年推理工作负载芯片将达到60.@ >8% 从目前的市场来看，单芯片的推理能力会逐渐提升，耗尽单芯片算力的推理任务和小规模推理任务会出现混合部署的趋势，芯片将逐步加强对虚拟化技术的支持。

2019-2025 年 AI 服务器推理和训练工作量预测

AI芯片可以部署在云数据中心、边缘侧和终端侧。云计算为人工智能提供了基础设施。目前，云是海量数据处理和大规模计算的重要载体。云AI芯片需要具备高存储容量、高浮点处理速度和高扩展性。在新技术的推动下，5G等连接技术降低了数据的传输和处理速度。为了分担数据中心的计算压力，同时提高实时响应速度，边缘侧的人工智能处理将成为企业的重点增长领域。边缘侧AI芯片的部署规模大且分散，未来边缘智能芯片的需求将快速增长，这就要求芯片具备适应各种复杂环境的能力。人工智能将在边缘和端拥有广泛的应用场景实时算力收益，从自动驾驶到工业制造，再到消费类智能家居和可穿戴设备。形状和材料成本之间的平衡。

2、服务器

人工智能服务器具有超高的计算性能，是人工智能应用的核心基础设施。在全球范围内，人工智能软件的增长等因素在很大程度上推动了人工智能服务器市场的增长。新冠疫情给全球人工智能服务器市场带来了巨大冲击。预计人工智能服务器市场将在 2021 年和 2022 年逐步恢复强劲增长，并在 2023 年回到 COVID-19 之前的轨迹。根据 IDC 全球研究，超过一半的企业将花费超过 1000 万美元2020 年 AI 基础设施，全球人工智能服务器市场预计到 2025 年将超过 260 亿美元。

2020-2025 年全球人工智能服务器市场及预测（十亿美元）

在中国，数字经济的发展和人工智能应用的落地带动了中国人工智能服务器市场的持续增长。新基建投资计划是新冠肺炎疫情后经济复苏的新动力，将与IT支出密切相关。中国的人工智能基础设施仍需进一步发展，对人工智能服务器的需求仍十分迫切。

人工智能技术的应用直接带动了企业对相关服务器的投资。新基建政策还将推动新应用创新，加速新应用诞生，直接推动物联网、边缘计算、自动驾驶等新生态。而新产业链的快速成熟，也为人工智能服务器市场带来了很大的发展空间。同时，政府也在加快投资建设智能计算中心，旨在为更多企业提供普惠的人工智能算力平台，更好地推动人工智能产业落地和成熟。根据IDC中国加速计算市场报告，预计2021年AI加速服务器市场规模将达到56.9亿美元，同比增长61.6% 2020.到2025年，中国人工智能加速服务器市场规模将达到108.6亿美元，五年复合增长率为25.3%。 2021年上半年，中国加速服务器厂商浪潮、宁昌、华为位列市场规模前三，占据中国70%的市场份额。

3、云服务

企业 IT 基础架构的部署模式正在从传统的加速采购转向使用公共云的弹性支出。据IDC数据显示，2020年中国公有云部署的人工智能服务器市场份额已超过30%，整体市场规模已超过8亿美元，而全球人工智能服务器公有云占比已达50%，这说明中国人工智能公有云服务市场仍处于发展阶段，未来五年将迎来高速增长。预计到2025年，中国人工智能服务器公有云占比将超过50%。

人工智能与云的融合是必然趋势。 AI公有云服务可以使企业高效部署人工智能应用，轻松获取云端AI能力，有效接入和使用人工智能技术。人工智能技术的发展不断加速，采用人工智能公有云服务可以在前期以较低的成本快速迭代。目前，云服务商正在加速投资公有云建设，推动了整体市场的发展，包括百度、阿里、腾讯等互联网数字原生公司提供的公有云服务，以及行业龙头企业等如平安科技和中国电信。公共云服务。

从技术角度来看，AI公有云服务解决方案主要包括计算机视觉、智能语音、自然语言处理、机器学习等。在计算机视觉方面，视频分析技术是今年的热门话题，云服务商不断加大对视觉领域预训练模型的投入；在智能语音方面，云端开放的AI能力数量快速增长；以百度智能云、阿里云为代表的厂商提供的能力越来越丰富。机器翻译、合同分析等成为热点；机器学习的方向，首先是不同形式的AutoML，以及机器学习开发过程自动化和智能工具的不断完善；二是针对行业场景的行业开发包；三是预训练。该模型提高了AI模型的通用性、泛化​​能力和规模复制能力。此外，应用场景和解决方案的整合不断加强：领先的人工智能云服务商通过整合多种单点人工智能技术，不断推出新的应用场景和解决方案。

除了公有云，各行各业的领先公司都在积极部署私有云，以支持包括人工智能在内的新兴业务应用。公有云、私有云和传统数据中心混合IT架构的发展趋势对企业技术和业务创新产生重大影响。一是公有云服务商业务快速增长，中小企业从自购人工智能服务器开始搭建数据中心。购买云服务的转变更加明显；政府的政务云建设早在几年前就已经实施，现在已经在多个省市实施。中小地方政府已经成熟，使用省级或地级集中建设代替政务云同时，金融等行业的客户也在建设私有云或行业云，虚拟化等技术已经从互联网产业转向传统产业。随着企业客户不断在本地和云端平衡他们的应用组合，混合IT将成为未来企业的首选部署方式，公有云、私有云、混合云和多云架构都加入了传统服务器技术创新和部署模式的影响更大。

4、算法模型

随着综合人工智能场景在各行业应用的增多，AI模型也变得多样化，模型朝着更加复杂的方向发展。小模型虽然可以满足很多行业场景的实际应用，但其在通用性和准确性上的局限性，难以推动大规模智能化。小模型的通用性较差，可能不适用于其他应用场景，需要重新训练。同时，模型训练对数据的要求很高，需要大规模的标注数据。如果某些应用场景的数据量较小，训练出来的模型的准确率会不尽如人意。

整体来看，人工智能算法模型的发展越来越复杂，模型大型化已成为发展趋势。海量模型将成为大规模创新的基础。在全球范围内，AI模型参数的规模逐渐增大，从2011年到2021年的数千万到数千亿。2020年，OpenAI发布GPT-3深度学习模型后，人工智能在大众视野中进一步“扩张”。 GPT-3模型利用云计算分析学习海量数据后，拥有1750亿个参数，在文本分析、机器翻译、机器写作等自然语言处理应用中表现良好。

除了 GPT-3，2021 年中国“Source1.0”和美国 Switch Transformer 等“巨大”机器学习模型的出现，将使大型模型的构建和人工智能处理的改进。性能已经成为当今非常流行的模型发展趋势。其中，中国“元1.0”的单个模型参数值达到2457亿。在文本分析模型的帮助下，得到了5TB的高质量中文数据集，可以作为语言模型来完成尤其是中文的阅读和理解。 、推理、逻辑判断等任务。此外，通过算法与算力的协同优化，提升GPU性能，提升计算效率；还具备零样本学习、小样本学习等优秀的模型泛化应用能力，能够带来在实际场景中快速应用的可能。 .

虽然对于人工智能的发展，在达到理想的泛化能力的基础上，模型越小，就越能适应应用场景的广泛性和灵活性。然而，在这条通往理想的道路上，第一步是使用一个大模型，用海量有价值的数据进行全训练。调到理想效果后，进行蒸馏、量化等模型缩减工作。通过大型模型获得最佳结果似乎是更通用和更高级的人工智能应用的唯一途径。

大量的模型带来创新的机会，而计算能力是创新的基础。在通过大模型不断探索人类庞大的自然语言系统的同时，提高了训练门槛，创新算法模型的优化和应用需要强大算力的支持。 “数量”模型的发展是一个重要的好处。计算硬件设备的不断升级和云计算服务的不断优化，为更多企业以更低的成本享受更强的计算能力带来了可能，从而在更大的机器学习模型的支持下实现更精准的分析。 ，预测。拥有更高算力基础设施的企业/组织或国家，将更有可能从人工智能带来的红利中获益更多。在中国，以地方政府为主导的智能计算中心等算力基础设施建设，可以在很大程度上解决高算力需求。

目前，人工智能算力平台建设与行业用户的差距仍然是应用落地的障碍之一。根据 IDC 研究，超过 50% 的企业认为其行业应用场景需要更准确的算法模型。由于人工智能应用场景的不断深入和细化，从通用场景向行业碎片化场景下沉的趋势越来越明显，围绕人工智能的生态建设仍是未来关注的焦点。如何构建产业生态，为更多的上下游供应商提供一体化平台，为行业用户输出理想的解决方案仍是至关重要的。

5、应用程序

场景应用的丰富程度体现了人工智能算力转化为生产力的能力。随着人工智能技术的发展，已经过了概念阶段，完成了POC阶段，逐步实现了在生产经营环境中的部署乃至规模化应用，助力各行各业变得更加智能、绿色、综合性和多元化。发展。

从人工智能单点技术应用来看实时算力收益，根据IDC 2021年人工智能技术在企业应用现状调查结果显示，计算机视觉仍是最重要的应用技术类型。 、图像识别、智能摄像头、人脸识别和图像处理等企业应用率位居前列。预计未来，企业在不断加大计算机视觉应用的同时，也会深化语音识别、自然语言处理等技术场景的应用。

企业部署的人工智能场景，计划在未来三年，2021年部署

2021年中国人工智能应用场景发展

从行业应用来看，人工智能的应用场景已经从碎片化向深度融合的融合转变，从单点应用场景向多元化应用场景转变。随着人工智能场景应用的增多，对算力的需求也随之增加。各行各业的不同场景依赖的人工智能技术不同，对算力的要求也不同。人工智能算力的需求仍主要集中在AI模型训练，其中认知AI模型训练影响算力。需求最高，其次是语音AI模型训练和视频图像AI模型训练。

与2020年相比，人工智能算力释放的场景在金融、制造、能源公用事业、交通运输等行业尤为显着。技术的融合，助力行业实现从“点”到“面”交互协作的工作场景应用。在很多场景下，人工智能已经进入广泛应用的成熟阶段，或者处于蓬勃发展的阶段，或者刚刚兴起，未来还有很大的发展空间。

二、中国人工智能算力发展评估

今年是IDC第四年从行业和区域两个层面对中国人工智能算力发展进行评估。为了保持维度的一致性，本次评估基本延续了过去三年的框架体系，从宏观层面、技术成熟度、劳动力供给三个维度进行评估。

在宏观层面，通过考虑一个行业或地区的整体经济发展水平和在人工智能领域的支出比例，直观地反映了该行业或地区人工智能的应用水平；成熟度方面，重点关注人工智能在不同行业的使用时代、应用成熟度、第三方平台技术（包括云、移动、大数据等第三方平台解决方案）的应用程度。促进了许多企业或组织的发展（IT支出和新的人工智能项目）；在劳动力供给层面，IDC重点关注企业AI开发运维人员占比和技能水平、区域AI人才储备、科研成果等因素。

此外，算力基础设施的建设，比如政府智能计算中心的建设，可以反映一个地区在人工智能方面的综合投入水平。在今年的评估中，它也被视为区域评估因素之一。

1、行业概况

IDC针对不同行业的人工智能投入（包括人工智能投入占整个ICT投资的比重）、行业应用场景成熟度、数据平台成熟度等维度进行了综合评价。根据持续研究和最新的用户调查，2021年人工智能行业应用渗透率排名前5的行业分别是互联网、金融、政府、电信和制造业，与2020年相比，人工智能在中国的应用渗透率排名前5位。金融业加速超越政府行业，位居第二，人工智能在制造业、交通运输和能源行业的应用也不断深化，分别位居第七和第九位。 2021年上半年中国人工智能行业应用渗透分布如下图所示：

2021 年中国人工智能行业渗透率

人工智能技术的落地为行业带来更多价值，不仅提升了企业的运营效率和生产效率，也提升了企业的创新能力。通过IDC的调查发现，采用人工智能三年以上的企业在很多方面都取得了显着的收益。企业通过机器学习、深度学习等人工智能技术的应用，提高了整体工作流程的效率和准确性，实现了多个人工智能场景的落地。人工智能应用场景的多样性以及从人机交互模式到自主学习的无监督模式的转变，涉及到多种模型和算法。在AI芯片、传感器等AI辅助设备的支持下，算法和算力可以进一步升级。

二是通过与大数据、云计算、5G等ICT技术的融合，推动各行各业智能技术的优化创新。根据IDC对企业人工智能和算力应用现状的研究，企业在人工智能的应用中获得了显着的正反馈。总体而言，公司已经可以从部署中受益并增加收入。调查显示，在人工智能的帮助下，被调查公司平均可以增加收入9.8%（尤其是在互联网、交通、制造、医疗、电信等领域。收入增长为更明显），平均工艺时间缩短20.@>4%，生产效率提高21.6%。

人工智能对企业的价值维度

2、地理概况和排名

2021年中国AI城市排名中，前5名城市为北京、杭州、深圳、南京、上海，6-10名城市为苏州、广州、济南、成都、合肥。与2020年相比，前十名城市中，南京首次进入前五，济南、成都进入前十，分别排名8、第9位。除前十名城市外，在人工智能新技术的支持下，全国各地都加快了智能产业发展，不断推动产业升级，让人工智能发展和智能产业促进的地方搬家。迈向更高的水平。脚步。从不同地区人工智能发展程度和应用层面覆盖情况来看，我国在人工智能领域仍保持着较高的研究投入，应用层面的拓展也保持持续上升趋势。

中国人工智能算力发展评估——2021年城市排名

智东认为，从报告中可以看出，人工智能近年来发展迅速，计算能力正以惊人的速度扩张。值得注意的是，2020年人工智能用于推理的芯片份额已超过训练芯片，占比超过50%。这表明，随着计算能力的发展，人工智能已经从感知时代正式进入认知时代。 .