华为云重磅发布AI原生云基础设施架构CloudMatrix

  今日，在华为全联接大会2024上，华为云重磅发布AI原生云基础设施架构CloudMatrix，以满意AI年代企业关于算力的大规模、高效安稳、弹性灵敏的需求。

  现在，AI算力需求快速地增加，正在逾越对通用算力的需求。构建弹性、高效的多元算力基础设施是AI开展的要害。

  为了逐渐提高AI原生基础设施的效能，华为云推出AI原生云基础设施CloudMatrix，将CPU、NPU、DPU、存储和内存等资源悉数互联和池化，构建“悉数可池化、悉数皆对等、悉数可组合”的分布式对等全互联架构，完成了单体算力向矩阵算力的演进，为客户供给汹涌的AI算力。

  悉数可池化：华为经过CPU、NPU为客户供给强壮的通用核算和智能核算。一起，华为云分布式QingTian技能协助打破单服务器的才能鸿沟，将服务器内的CPU、NPU、DPU、存储和内存等多样资源的一致池化并灵敏装备，以此构成大规模、紧耦合的多元算力池化架构，算力得到大幅提高。

  悉数皆对等：CloudMatrix经过超高带宽ScaleUp网络从“传统以太网”向“同享总线以太网”演进，完成池化算力的高速互联，一起经过自适应拓扑感知打破集群线性度瓶颈。华为云在传统算力集群ScaleOut网络基础上，结合ScaleUp超高带宽网络，将资源互联带宽提高了一个数量级。新的网络协议完成跨物理服务器的一致标识、一致的拜访和音讯通讯机制。以此来完成CPU、NPU、存储内存等多样资源的跨服务器一致池化。经过资源悉数对等衔接，既能够水平扩展，更能够笔直扩展，打破核算集群线性度的瓶颈，能够降大模型练习集群的线%，网络故障分钟级康复。

  悉数可组合：CloudMatrix能够按需组合多样化算力资源，而且依据使用需求灵敏调整。在一致多元算力逻辑池化、高速全对等互联的基础上，经过瑶光智能云脑对云上资源进行多元算力一致建模、灵敏调度组合，按需供给给使用。掩盖大模型和小模型的练习和推理，一起，还能够用在数据分析、媒体内容生成等更多使用场景。

上一篇:华为徐直军：拥抱全面智能化时代
下一篇:谷歌回应在华云服务疑云：无本地云基础设施聚集出海服务