边缘AI 2026将成 IoT晶片发展核心

图/摘自freepik

图/摘自Pexels

2019~2023年中国AI晶片市场推估

AI于IOT流程主要着眼数据处理与分析之效

台湾人工智慧晶片联盟系统应用SIG发展架构

随着智慧工厂城市场景对数据分析越发需要精准、即时且大量处理的需求,AI与IoT结合已是现在进行式。在AI晶片助益下,IoT边缘终端装置可透过机器学习或深度学习等技术加值,同时带出无延迟、低成本、高隐私等优势,显示出AI晶片的重要性。预估全球AI晶片产值至2025年将达720亿美元。

与此同时,边缘运算透过AI使终端设备于运行上更加智慧,不仅保有边缘运算于延迟性、隐私性、连接性功耗、成本等优势,并进一步使系统具有主动性与智慧性。若以场景角度切入,边缘AI相较传统边缘运算,其主要带来的效益包括数据处理过滤和边缘智慧分析,此也将成为两技术持续结合的动能

一、MCU、连接晶片、AI晶片为IoT晶片产业链三大关键零组件。 物联网在传统上多以感知层、网路层、系统层与应用层作为架构堆叠,主要经济效益虽来自应用层的智慧情境发展,然感知层所需的产业链之上游零组件仍是支撑终端场景运作重要核心,其中又以微控制器(MCU)、连接晶片与AI晶片最关键。

MCU方面,建立在高效能低功耗与高整合发展主轴下,IoT MCU现行从通用MCU演化成特定为IoT应用或场景所打造,如2021年3月STMicroelectronics推出新一代超低功耗微控制器STM32U5系列,可用于穿戴装置与个人医疗设备;Silicon Labs同期推出PG22 32位元MCU,主打空间受限且须低功耗的工业应用、Renesas RA4M2 MCU着眼IoT边缘运用等。

连接晶片方面,受物联网设备连线技术与标准各异影响,通讯成物联网晶片中相当重要的一环,从蜂巢式的4G、5G、LTE-M、NB-IoT,到非蜂巢式的LoRa、Sigfox、Wi-Fi、Wi-SUN等,从智慧城市、工厂、家庭至零售店面皆被广泛运用,范围扩及至太空,如2020年下旬联发科与国际航海卫星通讯公司(Inmarsat)合作,成功以NB-IoT晶片完成全球首次5G物联网高轨卫星资料传输测试。AI晶片方面,随着智慧工厂、城市等场景对数据分析越发需要精准、即时且大量处理的需求,AI与IoT结合已是现在进行式。此外,Microsoft在其2021年3月举办的年度技术盛会Ignite 2021上指出,2022年边缘运算市场规模将达到67.2亿美元,与深度学习晶片市场相当吻合,亦提及市场预估至2025年全球深度学习晶片市场将有望达663亿美元。同时,Microsoft认为至2026年全球AI晶片有3/4将为边缘运算所用,显示出IoT晶片于边缘运算的发展将成未来厂商重要布局之一。

二、边缘AI效益显著,成长动能仰赖数据处理过滤、边缘智慧分析。

首先,从边缘运算定义来看,市场虽已谈论数年但定义与类别始终未统一,原因是各厂商于边缘托管工作的目的不尽相同。例如对电信商而言,初步处理数据的微型数据中心是其边缘端,而对制造商来说边缘装置可能是生产线的感测器,此也造就边缘运算的分类方式略有出入。另外,例如IBM有云端边缘、IoT边缘与行动边缘的类别,ARM多将边缘视为云端与终端间的伺服器等装置,亦有个人边缘、业务边缘、多云边缘等类型。

其次,从边缘运算类别来看,现行分类趋势和研究方式尚有以数据产生源为核心,借由设备与数据源的物理距离作为分类参考,并将其分为厚边缘(Thick Edge)、薄边缘(Thin Edge)与微边缘(Micro Edge)。厚边缘多用以表示处理高数据流量的计算资源,并配有高阶CPU、GPU等,例如数据中心的数据储存与分析;薄边缘则包含网路设备、工业电脑等以整合数据为主要目的,除了配有中间处理器外,也不乏GPU、ASIC等AI晶片;微边源因与数据源几无距离,故常被归类为生成数据的设备或感测器,计算资源虽较为匮乏,但也可因AI晶片发挥更大效益。

整体而言,边缘运算透过AI使终端设备于运行上更加智慧,不仅保有边缘运算于延迟性、隐私性、连接性、功耗、成本等优势,并进一步使系统具有主动性与智慧性,在平台管理、工作量合并与分布式应用也更有弹性。若以场景角度切入,边缘AI相较传统边缘运算,其主要带来的效益提升包括数据处理过滤和边缘智慧分析,此也将成为两技术持续结合的动能。

数据处理与边缘分析于过往边缘运算时已可做到,并在AI加值下进一步提升效益。以前者而言,数据透过智慧边缘计算资源可在边缘处预先处理数据,且仅将相关资讯发送至云端,从而减少数据传输和储存成本;从边缘分析效能来看,过往多数边缘运算资源处理能力有限,运行功能时往往较为单一,而边缘智慧分析透过AI晶片赋能,进而能执行更为繁复、低延迟与高数据吞吐量的作业。

三、全球大厂抢攻IoT晶片市场,中国加重AI晶片发展力道

IoT晶片于边缘运算所产生的效益,使其成为厂商重要策略布局领域,云端大厂如Google、AWS等纷纷投身晶片自制;传统晶片大厂如ARM最新产品即锁定边缘AI于摄影机和火车的辨识应用、Intel亦投资1.3亿美元于十余家新创AI晶片设计厂商,NXP Semiconductors、Silicon Labs、ST则陆续在其MCU或SoC添加边缘AI功能。此外,新创企业Halio、EdgeQ、Graphcore皆以AI晶片为主打。整体而言,若以区域来看,欧美大厂聚焦加速AI运算效能,但最积极发展AI晶片产业的则属产官学三方皆支持的?心,代表性厂商包含地平线华为旗下海思等代表;台湾则由产业联盟领头与联发科和耐能等重要厂商。

(一)中国产官学助力,2023年AI晶片产值估将逼近35亿美元。

AI产业是中国发展重点之一,其辅助政策如2017年《新一代人工智能发展规划》、《2019年促进人工智能和实体经济深度融合》,至「十四五」与「新基建」,都将AI视为未来关键国家竞争力。各大厂也因此陆续跟进,如百度发布AI新基建版图着眼智慧云伺服器;阿里宣布未来至2023年将围绕作业系统、晶片、网路等研发和建设,腾讯则聚焦区块链、超算中心等领域。

产官学研加重AI的发展力道也反映于AI晶片上,ASIC(特殊应用基体电路)厂商比比皆是。其中,AI晶片布局物联网领域的厂商众多,包含瑞芯微、云天励飞、平头哥半导体、全志科技等,主要面向云端运算、行动通讯、物联网与自动驾驶四大领域。其中,物联网领域进一步聚焦于智慧家庭、智慧交通、智慧零售与智慧安防部分,执行语音、图像、人脸与行为辨识等应用。若进一步聚焦于边缘运算领域,则以地平线、寒武纪、华为海思、比特大陆、鲲云科技等最为积极。整体而言,TrendForce预估,中国AI晶片市场有望从2019年13亿美元增长至2023年近35亿美元。

综观中国AI晶片发展,虽有中美贸易摩擦导致设计工具、制造封测等环节较受限制,且开发成本始终居高不下,然而,借由产官合作以及中国内需市场需求动能,仍能有效支撑该产业成长。若以边缘运算来看,鉴于AIoT市场持续茁壮,特定应用的ASIC将是重要发展趋势,尤以汽车、城市与制造业来看,相关场景应用如人身语音行为辨识、人车流量辨识、机器视觉等需求皆相当明朗,预期也将成厂商中长期发展主轴。

(二)台湾人工智慧晶片联盟积极整合,监控机器人为边缘AI应用两大方向。

台湾厂商联发科和耐能同样结合边缘运算与AI两技术作策略布局,就整体产业而言,2019年由联发科、联咏、联电、日月光、华硕、研扬等厂商共同组成的台湾人工智慧晶片联盟(AITA)发展迄今已越趋成形,各关键技术委员会(SIG)亦订定短中长期发展目标。

边缘AI发展则由AI系统应用SIG推动,其第一阶段至2020年着眼半通用AI晶片发展与智慧监控系统应用平台的装置端推论,2021年则聚焦以装置端学习系统参考设计,以及软硬体发展平台的装置端学习为主,并规划在2023年能以多功能机器人为主体,发展多感知人工智慧和智慧机器人AI晶片发展平台。

换言之,借由业界在智慧装置、系统应用与AI晶片的串联,短期至2022年都将是台湾边缘AI大力发展阶段,并朝智慧监控、多功能机器人深化,预期此也将带动系统整合的凌群、博远,终端设备的奇偶、晶睿硕,以及晶片设计的联发科、瑞昱等边缘AI商机;但相较中国广大内需市场,台湾仍需借由打造让晶片厂和系统商充分整合的互补平台,以利降低晶片开发成本,并从其中寻求更多可供切入的大厂产业链。(本文作者为TrendForce集邦科技资深分析师曾伯楷)