官方网站-首页
全新Armv9边缘AI计算平台：在边缘集成效率、安全和智能
- 分类：行业动态
- 作者：
- 来源：
- 发布时间：2025-03-06 09:14:13
- 访问量：539
【概要描述】在物联网与AI融合的浪潮中，考虑延时、隐私、成本等因素，相比于将数据上传到云，市场对边缘AI计算平台的需求日益迫切。从智慧城市到工业自动化，随着世界的互联和智能化水平的日益提升，在边缘侧处理(lǐ)AI工(gōng)作(zuò)负(fù)载(zài)的(de)必(bì)要(yào)性(xìng)已(yǐ)不(bù)可(kě)或(huò)缺(quē)。Arm公(gōng)司(sī)近(jìn)日(r
全新Armv9边缘AI计算平台：在边缘集成效率、安全和智能
【概要描述】在物联网与AI融合的浪潮中，考虑延时、隐私、成本等因素，相比于将数据上传到云，市场对边缘AI计算平台的需求日益迫切。从智慧城市到工业自动化，随着世界的互联和智能化水平的日益提升，在边缘侧处理(lǐ)AI工(gōng)作(zuò)负(fù)载(zài)的(de)必(bì)要(yào)性(xìng)已(yǐ)不(bù)可(kě)或(huò)缺(quē)。Arm公(gōng)司(sī)近(jìn)日(r
- 分类：行业动态
- 作者：
- 来源：
- 发布时间：2025-03-06 09:14:13
- 访问量：539
在物联网与AI融合的浪潮中，考虑延时、隐私、成本等因素，相比于将数据上传到云，市场对边缘AI计算平台的需求日益迫切。从智慧城市到工业自动化，随着世界的互联和智能化水平的日益提升，在边缘侧处理(lǐ)AI工(gōng)作(zuò)负(fù)载(zài)的(de)必(bì)要(yào)性(xìng)已(yǐ)不(bù)可(kě)或(huò)缺(quē)。
Arm公(gōng)司(sī)近(jìn)日(rì)发(fā)布(bù)专(zhuān)为(wèi)物(wù)联(lián)网(wǎng)优(yōu)化(huà)的(de)Armv9边(biān)缘(yuán)AI计(jì)算(suàn)平(píng)台(tái)，该(gāi)平(píng)台(tái)以(yǐ)全新(xīn)的(de)Arm Cortex-A320 CPU和(hé)领(lǐng)先(xiān)的(de)边(biān)缘(yuán)AI加(jiā)速(sù)器(qì)Arm Ethos-U85 NPU为(wèi)核(hé)心(xīn)，覆(fù)盖(gài)多(duō)个(gè)应(yīng)用(yòng)场(chǎng)景(jǐng)，实(shí)现(xiàn)包(bāo)括(kuò)视(shì)觉(jué)和(hé)自(zì)然(rán)语(yǔ)言(yán)在(zài)内(nèi)的(de)多(duō)模(mó)态(tài)的(de)环(huán)境(jìng)感(gǎn)知(zhī)与(yǔ)理(lǐ)解(jiě)，进(jìn)而(ér)运(yùn)行(xíng)智(zhì)能(néng)体(tǐ)AI、自(zì)主规(guī)划(huà)、执(zhí)行(xíng)复(fù)杂(zá)任(rèn)务(wu)。该(gāi)平(píng)台(tái)具(jù)备(bèi)强(qiáng)大(dà)的(de)计(jì)算(suàn)能(néng)力(lì)，比(bǐ)去(qù)年(nián)的(de)基(jī)于(yú)Cortex-M85搭(dā)配(pèi)Ethos-U85的(de)平(píng)台(tái)提(tí)升(shēng)了(le)八(bā)倍(bèi)的(de)ML计(jì)算(suàn)性(xìng)能(néng)，带(dài)来(lái)了(le)显(xiǎn)著(zhe)的(de)AI计(jì)算(suàn)能(néng)力(lì)突(tū)破(pò)。该(gāi)平(píng)台(tái)可(kě)赋(fù)能(néng)边(biān)缘(yuán)AI设(shè)备(bèi)轻(qīng)松(sōng)运(yùn)行(xíng)超(chāo)过(guò)10亿(yì)参(cān)数(shù)的(de)大(dà)模(mó)型(xíng)，助(zhù)力(lì)大(dà)模(mó)型(xíng)与(yǔ)生(shēng)成(chéng)式(shì)AI在(zài)物(wù)联(lián)网(wǎng)领(lǐng)域的(de)落(luò)地(de)。
一(yī)、Armv9边(biān)缘(yuán)AI计(jì)算(suàn)平台：CPU和NPU的深度配合助推边缘AI创新
Arm物联网事业部业务拓展副总裁马健表示，此次发布的边缘AI计算平台并非CPU和AI加速器的简单堆叠，而是实现了深度配合，让CPU和NPU相得益彰。
Cortex-A320可以为Ethos-U85提供更高的内存容量与带宽，让大模型在Ethos-U85上的执行如虎添翼。任何开发者们不希望在Ethos-U85上运行的AI操作，可以回退到Cortex-A320，利用其Neon/SVE2引擎更灵活有效地在CPU上执行。这使智能物联网与消费类电子生态系统能够在正确的时间，并在合适的地方运行最适合的工作负载。在Arm看来，这一创新将推动边缘AI领域在未来多年内的持续发展。
目前，全新Armv9边缘AI计算平台已获得亚马逊云科技(AWS)、西门子和瑞萨电子等多家行业领先企业的支持。以AWS为例，AWS IoT Greengrass是一个开源的边缘执行程序和云服务，用于构建、部署和管理设备端软件。目前，该边缘执行程序已经能够在众多基于Arm架构的设备上运行，并支持远程部署、管理和持续优化AI功能。在云边协同服务的场景下，安全性至关重要。因此，Armv9的(de)安(ān)全特(tè)性(xìng)成(chéng)为(wèi)物联网服务成功落地，以及为终端用户创造价值的关键创新。
二、Cortex-A320：首个专为(wèi)物(wù)联网应用优化，基于Armv9架构的超高能效CPU
聚焦物联网设备的边缘AI能力时，此次全新发布的基于Arm架构的Cortex-A320为物联网带来了先进的AI功能和开发者优势，将Armv9架构的功能扩展到高能效设备，并提供全面的软件支持。
Cortex-A320充分发挥了Armv9架构的优势，如针对ML性能的SVE2。相较于前代产品Cortex-A35，Cortex-A320的ML性能提升了十倍，标量性能提升了30%。
其所采用的Armv9.2架构还为最小的Cortex-A设备带来了高级的安全功能，例如指针验证(PAC)、分支目标识别(BTI)和内存标记扩展(MTE)。这些功能至关重要，因为边缘设备通常在暴露的环境(jìng)中(zhōng)运(yùn)行(xíng)并(bìng)处(chù)理(lǐ)敏(mǐn)感(gǎn)数(shù)据(jù)。
Cortex-A320支(zhī)持(chí)广(guǎng)泛(fàn)的(de)边(biān)缘(yuán)AI应(yīng)用(yòng)类(lèi)型(xíng)，从(cóng)入(rù)门(mén)级(jí)通(tōng)用(yòng)MPU、智(zhì)能(néng)扬(yáng)声(shēng)器(qì)、软(ruǎn)件(jiàn)定(dìng)义(yì)智(zhì)能(néng)摄(shè)像(xiàng)头(tóu)，到(dào)工(gōng)厂(chǎng)车(chē)间(jiān)内(nèi)的(de)自(zì)动驾驶车辆、自动化边缘AI助手、AI人机界面和机器人控制器，Cortex-A320可在广泛的应用中发挥上述优势。除边缘AI应用外，Cortex-A320还可惠及包括智能手表和智能可穿戴设备，以及服务器基板管理控制器(BMC)等基础设施设备在内的众多关键细分市场。
三、强大的软件生态支持
边缘AI普及面临的最主要障碍之一是软件开发和部署的(de)复(fù)杂(zá)性(xìng)，为(wèi)此(cǐ)，Arm将(jiāng)Arm Kleidi扩(kuò)展(zhǎn)到(dào)物(wù)联(lián)网(wǎng)。作(zuò)为(wèi)一(yī)套(tào)面(miàn)向(xiàng)AI框(kuāng)架(jià)开(kāi)发(fā)者(zhě)的(de)计(jì)算(suàn)库(kù)，旨(zhǐ)在(zài)优(yōu)化(huà)基(jī)于(yú)Arm CPU的(de)AI和(hé)ML工(gōng)作(zuò)负(fù)载(zài)，无(wú)需开发者额外操作。KleidiAI已集成到常见的物联网AI框架中，如Llama.cpp和ExecuTorch或LiteRT（通过XNNPACK），加速了Meta Llama 3和Phi-3等关键模型的性能。例如，在Llama.cpp上运行微软的Tiny Stories数据集时，KleidiAI为新的Cortex-A320带来了高达70%的性能提升。
可以说，软件生态一直是Arm的(de)聚(jù)焦(jiāo)重(zhòng)点(diǎn)之(zhī)一(yī)。过(guò)去(qù)几(jǐ)年(nián)中(zhōng)，Arm在(zài)IoT标(biāo)准(zhǔn)化(huà)方(fāng)面(miàn)推(tuī)出(chū)了(le)Arm SystemReady，旨(zhǐ)在(zài)不(bù)同(tóng)的(de)IoT平(píng)台(tái)上可以支持各种主流软件和操作系统，确保“开机即用”。Arm SystemReady项目在全球的推广非常成功，目前已经累计颁发了超过了160张认证。在中国市场，去年11月Arm携手中科创达成立了中国大陆首个Arm SystemReady Devicetree合规实验室。该实验室融合了中科创达在操作系统和工程方面全方位的专业能力，以及Arm经过全球验证的SystemReady项目，为芯片厂商、OEM/ODM 厂商 、系统集成商提供端到端的测试和技术支持服务，为智能设备启动固件的标准化，加速万物智能互联时代的到来。
小结
展望未来，AI的发展趋势将继续转向边缘侧，而全新Arm边缘AI计算平台将成为新一轮物联网创新的催化剂。Armv9架构的特性、先进的AI功能和全面软件支持的结合，为OEM厂商和开发者创造了新的可能性。随着技术的不断演进，我们也期待Armv9边缘AI计算平台能持续推动边缘AI的广(guǎng)泛(fàn)应(yīng)用(yòng)和(hé)创(chuàng)新(xīn)。
扫二维码用手机看
