數(shù)字經(jīng)濟(jì)浪潮下，以 ChatGPT 為代表的生成式 AI 應(yīng)用的爆發(fā)，正在引發(fā)新一輪服務(wù)器的算力需求。

 

Arm 高級(jí)副總裁兼基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理 Mohamed Awad

 

AI的發(fā)展對服務(wù)器的架構(gòu)提出了新的需求

 

不過，目前市場上的服務(wù)器大部分采用的都是傳統(tǒng)的系統(tǒng)架構(gòu)，不僅無法達(dá)到內(nèi)存的一致性，而且也直接限制了產(chǎn)品最終的性能水平。

 

基礎(chǔ)設(shè)施領(lǐng)域的傳統(tǒng)系統(tǒng)架構(gòu)

 

“為了更好的支持生成式 AI對于服務(wù)器的需求，新的現(xiàn)代化系統(tǒng)架構(gòu)在基礎(chǔ)設(shè)施領(lǐng)域應(yīng)運(yùn)而生。以其中一種新型架構(gòu)來看，和傳統(tǒng)服務(wù)器的架構(gòu)相比，新型架構(gòu)中的每一個(gè)CPU都可以單獨(dú)和一個(gè)加速器相連，由于此架構(gòu)中的CPU是根據(jù)用戶的實(shí)際場景需求所進(jìn)行定制化設(shè)計(jì)，會(huì)帶來更優(yōu)異的內(nèi)存一致性，讓加速器的使用更加高效，體現(xiàn)出產(chǎn)品的最佳性能，如此一來，才能更好地滿足包括生成式 AI在內(nèi)的未來基礎(chǔ)設(shè)施的市場需求。”Arm 高級(jí)副總裁兼基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理Mohamed Awad在11月27日在深圳舉辦的Arm Tech Symposia 年度技術(shù)大會(huì)上說道。

面向新的技術(shù)需求，基礎(chǔ)設(shè)施領(lǐng)域出現(xiàn)了新的現(xiàn)代化系統(tǒng)架構(gòu)

 

Arm Neoverse已被 NVIDIA等眾多客戶采用

 

基于這樣的技術(shù)發(fā)展趨勢，目前在服務(wù)器等基礎(chǔ)設(shè)施領(lǐng)域， Arm已經(jīng)針對于人工智能 (AI) 正在發(fā)生的一些變化推出了一系列的創(chuàng)新解決方案。

 

“以NVIDIA GH200 Grace Hopper 超級(jí)芯片為例”，Mohamed Awad介紹道，“該芯片所使用的架構(gòu)中采用了72 顆 Arm Neoverse 核心，借助 Arm 技術(shù)帶來的靈活性進(jìn)一步實(shí)現(xiàn)了系統(tǒng)的優(yōu)化。此外，該芯片還能充分利用Arm強(qiáng)大的軟件生態(tài)系統(tǒng)，加上來自 NVIDIA 的 GPU的組合，其AI 性能較基于x86架構(gòu)的系統(tǒng)可提升 10 倍。”

 

NVIDIA GH200 Grace Hopper 超級(jí)芯片采用 Arm Neoverse 搭配 NVIDIA GPU，滿足 AI 性能的需求

 

除了英偉達(dá)之外，目前阿里巴巴等超大規(guī)模云服務(wù)商也都選擇了和 Arm 合作。比如，阿里巴巴的倚天 710 就是基于 Arm Neoverse 平臺(tái)打造的 CPU；另外，像鴻鈞微電子以及遇賢微電子等初創(chuàng)企業(yè)，也都基于 Arm Neoverse平臺(tái)打造了服務(wù)器 SoC 的解決方案；而中國本土的公司云豹智能，也借助 Neoverse 來引領(lǐng)DPU的創(chuàng)新發(fā)展；聯(lián)想則更多地是將基于Arm架構(gòu)的解決方案部署到 5G 領(lǐng)域。通過與上述中國本土公司強(qiáng)有力的合作，不僅為這些企業(yè)打造了最適合自己需求的解決方案，而且也促進(jìn)了Arm Neoverse平臺(tái)業(yè)務(wù)在中國的進(jìn)一步發(fā)展。

 

從超大規(guī)模云服務(wù)商到初創(chuàng)企業(yè)，在 Arm 平臺(tái)上賦能創(chuàng)新

 

Arm Neoverse CSS將進(jìn)一步為客戶提質(zhì)增效

 

基于Arm Neoverse平臺(tái)良好的客戶基礎(chǔ)與市場需求，現(xiàn)在Arm又推出了Arm Neoverse 計(jì)算子系統(tǒng) (CSS)，合作伙伴可以直接采用也可按需選用，以進(jìn)一步幫助客戶加速產(chǎn)品的上市進(jìn)程。

 

Arm Neoverse 計(jì)算子系統(tǒng) (CSS)

 

Mohamed Awad指出：“通過 Neoverse CSS 能夠幫助我們的合作伙伴進(jìn)一步降低投資，加速整個(gè)生態(tài)系統(tǒng)對我們解決方案的可訪問性，同時(shí)也加速合作伙伴產(chǎn)品的上市時(shí)間。目前，我們已經(jīng)得到了很多合作伙伴的反饋。其中，一個(gè)合作伙伴反饋說，通過使用 Neoverse CSS，節(jié)省了長達(dá)80人/年的工程師時(shí)間。與此同時(shí)，根據(jù)另外一個(gè)客戶的反饋，通過使用我們的 Neoverse CSS，助力他們的項(xiàng)目從概念到流片僅耗時(shí)13個(gè)月。”

 

值得一提的是，近期微軟發(fā)布的Cobalt 100 CPU，采用了128 個(gè)Arm Neoverse核心，也是基于Arm的 Neoverse CSS所設(shè)計(jì)的方案。此外，也有中國的合作伙伴正在基于 CSS 進(jìn)行開發(fā)，未來類似的案例還將不斷增多。

微軟 Azure Cobalt 100

 

為了進(jìn)一步結(jié)合生態(tài)系統(tǒng)的力量、簡化定制芯片的開發(fā)流程，并且讓交付變得更加容便捷，在 Neoverse CSS的基礎(chǔ)之上，Arm也推出了Arm全面設(shè)計(jì) (Arm Total Design) 生態(tài)計(jì)劃，這個(gè)生態(tài)計(jì)劃結(jié)合了專用集成電路 (ASIC) 設(shè)計(jì)公司、IP 供應(yīng)商、EDA 工具提供商、代工廠和固件開發(fā)廠商等芯片設(shè)計(jì)全鏈路所需的生態(tài)支持，幫助計(jì)劃采用 Arm Neoverse CSS 的客戶奠定生態(tài)支持的基礎(chǔ)，加速他們的產(chǎn)品開發(fā)進(jìn)程。

 

Arm 全面設(shè)計(jì) (Arm Total Design) 生態(tài)系統(tǒng)助力合作伙伴加速基于 Neoverse CSS 的芯片開發(fā)

 

“近年來，Arm在致力于IP 授權(quán)業(yè)務(wù)發(fā)展的同時(shí)，也在不斷為合作伙伴提供完整的解決方案，以幫助他們快速地將產(chǎn)品推向市場，形成差異化的競爭優(yōu)勢。Arm 全面計(jì)算解決方案 (Arm Total Compute Solutions)、Arm Neoverse平臺(tái)、Arm Corstone 以及 SOAFEE 等，都是 Arm 的計(jì)算平臺(tái)在市場當(dāng)中得以廣泛應(yīng)用的例證，這些平臺(tái)可以幫助我們向生態(tài)伙伴提供一個(gè)完整、集成的解決方案，可助力客戶快速采用并推出他們的產(chǎn)品及服務(wù)。”Mohamed Awad說。

 

Arm 為移動(dòng)、基礎(chǔ)設(shè)施、物聯(lián)網(wǎng)，以及汽車領(lǐng)域推出對應(yīng)的計(jì)算平臺(tái)，可以加速合作伙伴產(chǎn)品上市進(jìn)程

 

最后，在談及對于中國市場的看法時(shí)，Mohamed Awad表示：“中國是 Arm 非常重要的市場之一，來自中國市場的創(chuàng)新也是 Arm 不斷發(fā)展，并在業(yè)務(wù)上取得成功的原因之一。如今，中國合作伙伴基于 Arm 架構(gòu)芯片的總出貨量已累計(jì)達(dá)300億顆，這個(gè)數(shù)字確實(shí)驚人。目前我們在中國有近 400 家技術(shù)授權(quán)客戶，這個(gè)數(shù)字每個(gè)月都在不斷攀升。未來，我們也將持續(xù)通過與安謀科技的合作，以進(jìn)一步助力中國本土合作伙伴的發(fā)展。”