應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點新聞
企業(yè)注冊個人注冊登錄

高算力AI模組前沿應(yīng)用:基于ARM架構(gòu)的SoC陣列式服務(wù)器

2023-07-27 17:10 美格智能

導(dǎo)讀:本期我們帶來高算力AI模組前沿應(yīng)用,基于ARM架構(gòu)的SoC陣列式服務(wù)器相關(guān)內(nèi)容。澎湃算力、創(chuàng)新架構(gòu)、異構(gòu)計算,有望成為未來信息化社會的智能算力底座。

本期我們帶來高算力AI模組前沿應(yīng)用,基于ARM架構(gòu)的SoC陣列式服務(wù)器相關(guān)內(nèi)容。澎湃算力、創(chuàng)新架構(gòu)、異構(gòu)計算,有望成為未來信息化社會的智能算力底座。

性能優(yōu)勢+AI驅(qū)動

ARM架構(gòu)服務(wù)器加速滲透

一直以來,基于ARM架構(gòu)的各類處理器芯片,以其低功耗、高效能、高可靠性、成本優(yōu)勢等綜合特性,廣泛應(yīng)用于手機(jī)、平板電腦、物聯(lián)網(wǎng)終端設(shè)備等各類通信及電子產(chǎn)品領(lǐng)域,極大推動了人類社會的信息化和智能化進(jìn)程。


image.png


而在服務(wù)器領(lǐng)域,之前一直是基于X86架構(gòu)的產(chǎn)品占據(jù)主導(dǎo),近年來,隨著下游對于異構(gòu)算力、智能算力需求的不斷增長,以及類似于云游戲等安卓原生態(tài)應(yīng)用的大規(guī)模興起,越來越多的廠商開始將ARM架構(gòu)應(yīng)用于服務(wù)器領(lǐng)域,并推出了一系列相關(guān)產(chǎn)品。

去年以來,在智能算力需求的不斷增長,以及生成式AI對于異構(gòu)算力的龐大需求,ARM架構(gòu)服務(wù)器在云游戲、數(shù)字人等新興應(yīng)用市場展現(xiàn)出獨(dú)特優(yōu)勢,而對于傳統(tǒng)服務(wù)器領(lǐng)域的滲透,也有加速的跡象。

ARM架構(gòu)服務(wù)器的特點:

一、低功耗:ARM架構(gòu)具有低功耗優(yōu)勢,其采用的處理器芯片,與傳統(tǒng)X86架構(gòu)芯片相比功耗更低,且具有更高的能效比,在IDC架構(gòu)中集成ARM服務(wù)器,可以降低電費(fèi)支出、節(jié)約能源消耗。

二、高效能:ARM架構(gòu)具有更好的多核線程驅(qū)動性能,能夠?qū)崿F(xiàn)更好的并行處理和任務(wù)處理能力。

三、成本低:ARM架構(gòu)處理器芯片,較X86架構(gòu)芯片的制造成本更低,ARM架構(gòu)服務(wù)器價格具有極高性價比,且開發(fā)成本更低。

四、高可靠性:具有更好的故障容忍性,可以提供更高的可靠性和穩(wěn)定性。

image.png


據(jù)了解,亞馬遜、浪潮、騰訊、百度、阿里等頭部企業(yè),都推出了基于ARM架構(gòu)的服務(wù)器產(chǎn)品,因其低功耗、高性價比、高效能等優(yōu)勢、在云計算、物聯(lián)網(wǎng)、智能交通、醫(yī)療健康等領(lǐng)域有廣泛應(yīng)用。

據(jù)TrendForce集邦咨詢研究顯示,近年企業(yè)對于人工智能、高效能運(yùn)算等數(shù)字轉(zhuǎn)型需求加速,帶動云端采用比例增加,全球主要云端服務(wù)業(yè)者為提升服務(wù)彈性,陸續(xù)導(dǎo)入ARM架構(gòu)服務(wù)器,預(yù)期至2025年ARM架構(gòu)在數(shù)據(jù)中心服務(wù)器滲透率將達(dá)22%

基于ARM架構(gòu)的SoC陣列式服務(wù)器

智能算力領(lǐng)域的新興力量

以ARM架構(gòu)為基礎(chǔ),創(chuàng)新性的采用SoC芯片作為算力來源,以靈活的陣列式架構(gòu)打造的SoC陣列式服務(wù)器,也逐步進(jìn)入企業(yè)級IDC以及各類邊緣計算場景。這是一種專門針對企業(yè)級數(shù)據(jù)中心和邊緣場景面臨的空間制約和節(jié)能要求而優(yōu)化設(shè)計的高密服務(wù)器,以高能效比、高性價比、高密度為設(shè)計原則,在一個機(jī)架式機(jī)箱內(nèi)集成多達(dá)40路、60路、80路等針對服務(wù)器場景專門定制的高算力模組或者算力板,可為各類行業(yè)客戶構(gòu)建適低成本、高密度、高并發(fā)、高性能的算力集群。

image.png


服務(wù)器內(nèi)布置的每個算力模組或者算力板都是一個可以獨(dú)立運(yùn)行的最小系統(tǒng),包含CPU、GPU、NPU、存儲、網(wǎng)絡(luò)等。相關(guān)SoC陣列式服務(wù)器可根據(jù)客戶需求、定制多種算力節(jié)點、其內(nèi)部采用模塊化及熱插拔設(shè)計,可以實現(xiàn)不停機(jī)維護(hù),在通信方面配置了10G/25G交換節(jié)點,支持SDN自動化網(wǎng)絡(luò)部署,并且內(nèi)置了多維智能管理節(jié)點,可以進(jìn)行全方位遠(yuǎn)程運(yùn)維工作,有效減低運(yùn)維成本。

image.png


以云游戲場景為例,隨著《原神》、《崩壞》等爆款游戲的全球風(fēng)靡,除了游戲運(yùn)行向移動端轉(zhuǎn)移外,也極大帶動了云游戲市場的迅速擴(kuò)展。而傳統(tǒng)的通用型服務(wù)器,在支撐云游戲運(yùn)行上,存在兼容性差、成本高昂等問題,而ARM架構(gòu)的陣列式服務(wù)器,基于對安卓生態(tài)天然的兼容性,避免了服務(wù)器端到應(yīng)用端的軟件架構(gòu)轉(zhuǎn)換以及轉(zhuǎn)換過程中的性能損耗,近年來在云游戲場景,幾乎占據(jù)主導(dǎo)地位,目前正逐步向數(shù)字人、工業(yè)視覺、邊緣AI、云XR渲染等領(lǐng)域拓展。

美格高算力AI模組

為SoC陣列式服務(wù)器提供澎湃算力

美格智能作為行業(yè)內(nèi)最早推出高算力AI模組產(chǎn)品的企業(yè),也不斷推動AI模組產(chǎn)品在服務(wù)器、機(jī)器人、AI零售、無人機(jī)、云游戲、數(shù)字人、云桌面、云教育、工業(yè)AI檢測、云XR等各領(lǐng)域的深度應(yīng)用,從而真正讓產(chǎn)品的AI能力能夠助力行業(yè)。

美格智能助力客戶定制推出SoC陣列服務(wù)器產(chǎn)品,集成了CPU+GPU+NPU+TPU復(fù)合異構(gòu)算力集群,可以構(gòu)建大規(guī)模智能算力矩陣;每個算力節(jié)點采用刀片+陣列式設(shè)計,支持熱插拔,輕松維護(hù);整機(jī)80GB帶寬,每個板卡滿負(fù)載1GB帶寬;內(nèi)置BMC多功能綜合監(jiān)控可視化管理系統(tǒng),可輕松遠(yuǎn)程管理。


image.png


▲內(nèi)置美格智能高算力AI模組SNM970的陣列式服務(wù)器終端

該SoC陣列式服務(wù)器,采用美格智能為其專門定制的高算力AI模組SNM970,基于高通 QCS8550(8 Gen2)研發(fā),支持16GB LPDDR5X + 256GB UFS 4.0內(nèi)存,服務(wù)器中最高可配置80路高算力AI模組,單顆模組內(nèi)部支持Android虛擬化,可虛擬出多路計算單元(如80路模組服務(wù)器,單顆模組根據(jù)下游算力需求,可以虛擬出多路虛擬機(jī),比如虛擬出4路的情況下則可同時支撐320臺諸如手機(jī)等終端同時運(yùn)行云游戲),更好的進(jìn)行算力配置,充分發(fā)揮了高算力、高性價比、高能效比的優(yōu)勢,為實時互動云計算、邊緣AI云計算、云渲染等業(yè)務(wù)場景提供最佳算力底座。

image.png


隨著各行各業(yè)對于算力需求的爆發(fā)式增長,以及新興應(yīng)用場景對于創(chuàng)新型服務(wù)器的迫切需求,美格智能也將加大力度推動高算力AI模組在服務(wù)器領(lǐng)域的深度應(yīng)用。

目前,美格智能團(tuán)隊已經(jīng)與行業(yè)領(lǐng)先的SoC陣列式服務(wù)器客戶密切協(xié)作,陸續(xù)打造出了針對SoC陣列式服務(wù)器場景,基于高通驍龍865/SM8475/QCS8550三代SoC芯片的深度定制的算力模組,同時做到封裝兼容,更好助力客戶產(chǎn)品的算力提升和產(chǎn)品迭代,為相關(guān)產(chǎn)品后續(xù)在AIGC領(lǐng)域的應(yīng)用推廣,以及向傳統(tǒng)服務(wù)器市場的滲透,提供更好助力。

中國電信終端產(chǎn)業(yè)協(xié)會于2023年4月26日發(fā)布了《基于ARM架構(gòu)的SoC陣列服務(wù)器技術(shù)規(guī)范》,以團(tuán)體標(biāo)準(zhǔn)的形式明確了ARM架構(gòu)SoC陣列式服務(wù)器的通用技術(shù)要求,國內(nèi)相關(guān)廠商也在為下一代服務(wù)器的產(chǎn)品標(biāo)準(zhǔn)在開始探討,相關(guān)產(chǎn)品將逐步進(jìn)入發(fā)展快車道。