4月9日,Arm宣布推出Ethos-U85 神經(jīng)網(wǎng)絡(luò)處理器(NPU),其MAC(乘加累計(jì)運(yùn)算)單元可從128個(gè)擴(kuò)展到2048個(gè),其算力可實(shí)現(xiàn)在1GHz頻率下達(dá)到4TOPs,能夠?yàn)楣S自動(dòng)化、商用零售、智能家居等高性能邊緣AI應(yīng)用提供支持。此次發(fā)布會(huì)同時(shí)發(fā)布了全新物聯(lián)網(wǎng)參考設(shè)計(jì)平臺(tái)——Arm Corstone-320。
當(dāng)前微處理器被部署到包括工業(yè)機(jī)器視覺(jué)、可穿戴設(shè)備和消費(fèi)者機(jī)器人等在內(nèi)的諸多高性能物聯(lián)網(wǎng)系統(tǒng)中,且各場(chǎng)景對(duì)人工智能功能提出了更高的要求。Ethos-U85由此推出,目標(biāo)是與Armv9 Cortex-A CPU相結(jié)合,加速處理機(jī)器學(xué)習(xí)(ML)任務(wù),提供更高能效的邊緣推理能力,從而滿足上述場(chǎng)景對(duì)人工智能功能的更高需求。
據(jù)了解,Ethos-U85性能相較前代產(chǎn)品提升四倍,能效提高20%,可支持Transformer架構(gòu)和卷積神經(jīng)網(wǎng)絡(luò)(CNN)以實(shí)現(xiàn)AI推理。Transformer架構(gòu)適用于視覺(jué)和生成式AI用例,對(duì)理解視頻、填充圖像的缺失部分,分析來(lái)自多個(gè)攝像頭的數(shù)據(jù)以進(jìn)行圖像分類(lèi)和目標(biāo)檢測(cè)等任務(wù)非常有效。全新 Ethos-U85 NPU支持了TensorFlow Lite 和 PyTorch等AI框架。
Ethos-U85為開(kāi)發(fā)者提供了與過(guò)往架構(gòu)一致的工具鏈,合作伙伴能夠利用現(xiàn)有的投資,實(shí)現(xiàn)開(kāi)發(fā)體驗(yàn)的無(wú)縫銜接。迄今,Arm Ethos NPU系列產(chǎn)品已有超過(guò)20家授權(quán)許可合作伙伴,其中,Alif Semiconductor 和英飛凌是全新Arm Ethos-U85 NPU的早期采用者。
Arm Corstone-320物聯(lián)網(wǎng)參考設(shè)計(jì)平臺(tái)集成了 Arm 最高性能的 Cortex-M CPU——Cortex-M85、Mali-C55 ISP和全新的 Ethos-U85 NPU,為語(yǔ)音、音頻和視覺(jué)等廣泛的邊緣 AI 應(yīng)用提供所需的性能,例如實(shí)時(shí)圖像分類(lèi)和目標(biāo)識(shí)別,或在智能音箱上啟用具有自然語(yǔ)言翻譯功能的語(yǔ)音助手。該參考設(shè)計(jì)平臺(tái)涵蓋了軟件、工具和支持,其中包括 Arm 虛擬硬件。該平臺(tái)的軟硬件結(jié)合特性將使開(kāi)發(fā)者能夠在物理芯片就緒前便啟動(dòng)軟件開(kāi)發(fā)工作,從而加速推進(jìn)產(chǎn)品進(jìn)程,為日益復(fù)雜的邊緣 AI 設(shè)備縮短上市時(shí)間。
Arm此次發(fā)布的最新架構(gòu)主要面向邊緣側(cè),關(guān)于Arm此次發(fā)布的產(chǎn)品將在家電廠商探索結(jié)合人工智能技術(shù)新品中發(fā)揮什么作用,物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁馬健向《中國(guó)電子報(bào)》記者作出如下回答:
第一是能夠提供更自然的交互能力。傳統(tǒng)智能家居,要使用其智能功能的話,需要用戶(hù)下載新的APP,這對(duì)于用戶(hù)而言,使用過(guò)程不夠友好。而搭載大模型的家用電器,其自然語(yǔ)言交互能力得到了極大的提升,采用Ethos-U85和Corstone-320的參考設(shè)計(jì),可以比較輕松地將由支持自然語(yǔ)言交互的大模型壓縮的小模型部署到各種家電中。以支持用戶(hù)與家電直接以自然語(yǔ)言交互。
第二是可以發(fā)揮Arm在云邊端多領(lǐng)域產(chǎn)品優(yōu)勢(shì)。大模型之所以智能,是由于參數(shù)量大。當(dāng)前多數(shù)大模型部署在云端。家電廠商收集的用戶(hù)數(shù)據(jù)等,都集中在云端訓(xùn)練和優(yōu)化。但同時(shí),為了增強(qiáng)用戶(hù)體驗(yàn),家電終端側(cè)、家庭網(wǎng)關(guān)邊側(cè),也會(huì)部署支持自然語(yǔ)言響應(yīng)的模型,這就要求設(shè)備可實(shí)現(xiàn)云邊端協(xié)同。馬健還補(bǔ)充道,在數(shù)據(jù)中心云、邊、端都有強(qiáng)有力的產(chǎn)品和統(tǒng)一的工具鏈支持,因此更具有生態(tài)優(yōu)勢(shì)。
責(zé)任編輯:姬曉婷
- QQ:61149512