服务器 频道

赋能合作伙伴实现定制化、差异化,共同基于Arm平台构建计算的未来

近日,Arm Tech Symposia 2023年度技术大会北京场成功举办。会议期间,笔者有幸采访到Arm高级副总裁兼基础设施事业部总经理Mohamed Awad,围绕Arm在中国的发展战略、基础设施、生态系统等话题展开深入讨论。

▲Arm高级副总裁兼基础设施事业部总经理Mohamed Awad

对于Arm而言,中国是最大的市场之一,也是增长最快的市场之一。中国合作伙伴基于Arm架构的芯片出货量迄今已累计超过300亿颗。目前,在中国有近400家Arm的技术授权伙伴,这个数字还在不断增长中。此外,Arm也一直通过与安谋科技合作,以进一步助力本土合作伙伴。

Mohamed Awad表示,“来自中国市场的创新也是Arm不断发展,并在业务上取得成功的原因之一。在中国,很重要的一点就是通过不断努力来加速创新,而正是这样的持续创新的精神,牵引着Arm和我们的生态伙伴一起取得了显著成就,并向市场推出更多新的产品。”

值得关注的是,Arm已转型为一家计算平台公司。Arm全面计算解决方案 (Arm® Total Compute Solutions)、Arm Neoverse™ 平台、Arm Corstone™ 、SOAFEE等解决方案为合作伙伴提供了开展后续工作的基础,进而帮助他们加快产品上市进程,并实现差异化。

同时,Arm致力于IP授权业务,希望能为合作伙伴提供更高的灵活性,让他们选择最适合的方式进行产品开发——Arm既可以为合作伙伴提供一个完整的解决方案,帮助他们快速地将产品推向市场,合作伙伴也可以选用个别的Arm IP,自行进行配置,这一切都由他们自己按需选择,这也是Arm独特之处。

随着大型语言模型(LLM)的加速发展,生成式 AI 正迅速成为人们日常生活中的一部分。当今的 LLM 模型在单位推理价格方面存在严重的效率低下问题。其主要问题在于数据中心内系统架构的内存占用。在传统架构中,与加速器紧密耦合的 HBM 内存无法满足整个模型的容量需求。

在 AI 时代,需要换个角度来思考问题。以其中一种现代化的系统架构为例。在这种情况下,其中有一个定制的 CPU,它既利用了现代强大的软件生态系统,又是直接连接到每个加速器,在加速器和 CPU 之间建立高性能连接,并在整个系统层面实现内存一致性。

▲NVIDIA GH200 Grace Hopper超级芯片

而这个架构正是NVIDIA GH200 Grace Hopper超级芯片所使用的架构。NVIDIA携手Arm,正是因为希望借助Arm技术带来的灵活性,设计出他们所需要的芯片以进一步优化系统。在这样的架构当中,72颗 Neoverse 核心,加上来自NVIDIA的GPU的组合,其AI性能较基于x86架构的系统可提升10倍。

为什么超大规模云服务商如亚马逊云服务(AWS)、阿里巴巴都要做自己的CPU 设计,而且都选择和Arm进行合作?其实答案非常简单,Mohamed Awad指出,“对于Arm来说,我们深信只有创新才能不断推动技术的进步。通过和 Arm 合作,合作伙伴能够根据自己的用例和基础设施来打造并优化解决方案,达到创新。”

我们看到,阿里巴巴凭借倚天710为阿里云构建了性能出众的解决方案。与传统部署相比,这款搭载128核心的芯片能够显著提升性能效率。鸿钧微电子、遇贤微电子与云豹智能正在带领中国计算基础设施领域初创企业的新一轮浪潮,分别致力于提供新一代服务器CPU,以及云计算与数据中心的DPU设计。

除此之外,Arm还携手联想等合作伙伴,通过在国内设立的Arm 5G解决方案实验室等举措,加快基于Arm架构解决方案的部署。在近期的AWS re:Invent 大会上,AWS发布其第四代基于Arm Neoverse平台的处理器——Graviton4。与 Graviton3相比,Graviton4的处理速度提高了30%。

为了缓解未来基础设施的压力,行业需要依赖强大的软件生态系统,在高效、可扩展的多核计算基础上,打造专用处理的能力。Arm 为此推出了 Arm Neoverse 计算子系统 (CSS),在帮助合作伙伴加快上市速度的同时,降低开发定制芯片所需的总投资,并使整个生态系统更易获得创新带来的优势。

在Mohamed Awad看来,“通过Neoverse CSS能够帮助我们的合作伙伴进一步降低投资,加速整个生态系统对我们解决方案的可访问性,同时加速合作伙伴产品的上市时间。我们也得到了很多来自于合作伙伴的反馈,其中一个合作伙伴反馈说,通过使用Neoverse CSS,节省了长达80人/年的工程师时间。”

人工智能时代,最大的挑战之一是内存带宽,以及其能否为设备提供更好的支持。Mohamed Awad指出,“我们需要不断发展系统架构,要有足够的灵活性,并让不同的想法蓬勃发展,进而找到实现AI的最 佳途径。Arm凭借其兼具灵活性和设计的独特模式,以及强大的生态系统,从而保持领先。”

未来,Arm将一如既往地协助合作伙伴,帮助他们增加产品差异化优势,并将创意快速地推向市场。Arm 也将继续支持和发展全球最大的开发者生态系统,让全世界能够分享创新成果。在AI时代,Arm将继续发展并深化合作伙伴的领先优势,共同基于Arm平台构建计算的未来。

3
相关文章