做厚算力“黑土地” 支撑AI创新发展

黄鑫 2025-09-20 19:59:28

在9月19日举行的第十届华为全联接大会上,华为常务董事、华为云计算CEO张平安宣布,CloudMatrix384 AI Token推理服务全面上线,以优的性能、好的服务、高的质量服务好客户。

今年,华为云CloudMatrix384昇腾AI云服务已全面上线。未来华为CloudMatrix超节点规格将从384卡升级到8192卡,可实现50-100万卡的超大集群,为智能时代提供更澎湃的AI算力。华为云首创EMS弹性内存存储服务,用内存扩展显存,显著降低大模型多轮对话时延,大幅提升模型使用体验。

随着AI算力需求的暴增,传统的数据中心已不适合构建高效的AI基础设施,单机柜功率要从10千瓦/每柜,升级到70千瓦/每柜,甚至是200千瓦/每柜,要从风冷转变到全液冷。华为云在贵州、内蒙古、安徽部署了全液冷AI数据中心,实现单机柜80千瓦散热,PUE低至1.1,并能够实现AI智能运维。企业无需改造或新建传统数据中心,通过一对光纤,就能获取华为云上高效的AI算力,也可以获得全栈专属AI云服务。

张平安表示,Token服务可以有效屏蔽复杂的底层技术,直接为用户提供最终的AI计算结果,是最高效的推理算力使用方式。CloudMatrix384超节点将算力、内存、显存等资源全面池化,把计算型任务、存储型任务、AI专家系统解耦,将串行任务变成分布式并行任务,极大地提升了系统的推理性能。在在线、近线和离线等不同时延推理场景中,CloudMatrix384平均单卡的推理性能达到H20的3到4倍。

截至目前,使用华为云AI云服务的全球客户数量从去年的321家增长到今年的1805家。如360纳米AI依托CloudMatrix384的Token推理服务,成功处理每天上千万的内容生成请求。Cloudmatrix384昇腾AI云服务支撑“磐石·科学基础大模型”,将赋能中国科学院100多个院所的科研场景,不断拓展人类认知的前沿。

张平安表示,华为云通过软硬协同、架构创新,持续为客户打造更领先、更有价值的云服务;同时将更多的资源投入到AI和算力产业上,让千行万业的的应用更容易、更好地生长在华为云的“黑土地”上。

华为高级副总裁、华为云全球Marketing与销售服务总裁杨友桂表示,面对数智化转型的复杂挑战,华为云坚守核心定位,为全球客户构建起“全球一张网,数智双引擎”的全方位支撑体系。首先,华为云通过全球存算网,为客户提供极致弹性的云基础设施;其次,通过数据使能服务进行高效供数,释放数据价值;第三,依托一站式AI开发平台,帮助企业构建AI原生应用,降低企业创新门槛;最后,将全球数智化转型最佳实践沉淀到华为云上,以云服务形式成就更多客户。