携手昇腾，构筑绿色智能根基

张迪煊

华为计算昇腾领域总监

　　尊敬的各位领导、各位来宾大家上午好！我是张迪煊，在华为公司负责昇腾人工智能的基础软硬件，今天非常高兴和大家相聚在福州，一起聆听业界的声音，分享院士和专家们的前沿研究与探索。

　　我今天重点围绕昇腾在人工智能领域的一些产业化的探索和进展。

　　整个人工智能发展特别快，特别是今年年初之后，大家开始陆陆续续大家对大模型尤其追逐，华为在两年前就开始做大模型的相关研究工作。之前其实我们一直觉得过去的时候人工智能由很多小模型构成的，一个任务由多个小模型构成，来完成这个任务。

　　现在人工智能已经从感知理解走向了深层创造，企业、科研机构在进一步加大投入这个方向。我们也看到了无论是微软的一些应用也好，Office、BING的引入也好，国内的大量搜索引擎公司也在加速推进。

　　AI 和Science做深度结合，通过AI这种暴力计算可以解决Science的很多问题，通过人工智能技术可以进一步地解决很多过去在科技里面的挑战，算不快、算不准等一系列问题。

　　过去说人工智能都会想到三要素——数据、算力和算法。这三要素是被业界公认的。随着大模型的出现，我们简单总结了一下，优秀人工智能企业在大模型上的经验。

　　第一，确实需要很大的算力。

　　第二，对于整个框架挑战很大。

　　第三，算法。需要精妙的算法来提升大模型创造，让大模型精度更高、更智能。

　　我们构筑一个异构计算框架。支持第三方的框架，以及华为自己因为对外开源了，这个框架是由我们公司原来分布式团队构建的。我们面向应用会提供相应的组件来帮助企业，开发者拿到这个硬件系统以后快速地组成一个大模型训练系统。

　　截至现在，当前已经超过了20多个硬件伙伴来持续打造我们基于国产化的昇腾的人工智能的计算机服务器，包括华坤、正羽、华商等一些厂商。

　　第四，合作伙伴为主，我们当前已经有1000多家合作伙伴，连续打造了2000多个解决方案，当前支持了超过30个大模型，当前已经超过了150万开发者在用基础软件平台。

　　同时，多个维度已经取得的不错的进展，在互联网维度，在互联网内容审核、广告推进，搜索业务方面。在政府维度，更多围绕视频场景应用，我们的视频处理路数是英伟达的3倍多，达到140多路，更多地支撑整个视频技术的发展。

　　算力中心能耗是非常关键的，以100P算力为例的机房，在传统楼宇里面，建筑主体差不多耗费2600多吨碳的排放。采用模块化、一体化的数据中心之后，100P的算力，大概在300多张卡的规模下，节省碳的排放是2500多吨。

　　单柜冷却采用液能方式与风能方式相比，每100P算力一年将近节约100万度的电，这是一个绿色的方向。前面跟国网、南网讨论的时候，大家在东数西算的场景上也会进一步加大绿色节能计算，这样整个PU值就会非常高。

　　人工智能创新中心是关键重要的，算力中心是个基础，创新中心尤其关键，更多承载着我们在各地也建设了昇腾人工智能创新中心，承载的核心四个词。

　　所以大模型对于整个计算机体系架构从原来单机走向集群的分布式训练架构带来了非常大的挑战，所以我们认为整个的大模型训练里面需要关注三个方向。

　　第一，稳定可靠。

　　第二，关注高效训练。

　　第三，我们会支持业界开源的模型。

　　随着各地人工智能集成建设也在科技部的指导下，很多科研引领和科研技术创新其实需要抓在自己手里的，而不是说跟随去适应。在武汉人工智能计算中心打造了“紫东·太初”多模态大模型。

　　在过去一年里面，其实跟鹏城实验室合作，依托“鹏城·神农”入围戈登贝尔奖的项目中。同时跟秦岭、空天，甚至天津的海德实验一起在做相应的模型创新。当前为止，基于昇腾昇思，已经支持超过了国内一半的人工智能大模型。当前，在科技部指导下，在鹏城实验室的牵头下，已经有20多个节点，包括基于昇腾的，基于寒武纪的，也有人工智算中心、超算中心并网接入。

　　其实在本月26日，福建的人工智能计算中心正式挂牌了，华为坚定支持福建基础设施的建设以及产业的发展，助力福建打造成东南地区的首个人工智能大规模商业集群，福建当前的规模建设是400P算力，一期建了100P。我们跟厦门大学在联合打造一个叫“白鹭迦叶”的大模型，这是一个手语大模型，通过手语翻译包括手语的智能处理技术，我觉得会具有里程碑意义的，帮助这一类人群大家更好更方便地交流。

　　人才培养方面，联合了福州大学、厦门大学等7所高校展开了相应的合作，进一步支撑福建人工智能体系的建设，预计每年可为福建培养超过1000多名的复合型人才。

　　福建省福州市非常重视人工智能的发展，在“十四五”规划中明确提出了人工智能发展方向，我们一起努力为福州、为福建更好地发展人工智能的提供帮助，为福建的高质量发展注入核心的引擎和动力。

　　（以上内容根据嘉宾发言速记整理）