邊緣AI將成下一波成長浪潮

AI。路透

【撰文：陈浩诚】

根据安联环球投资研究，生成式AI运算发展正从集中式资料中心逐渐转向边缘AI；这意味着此创新科技的发展有望为使用者带来更快、更个人化的体验，引领下世代AI技术应用革新的到来，并为投资人带来潜在具吸引力的投资机会。

2025年企业生成数据

将超过5成与边缘AI相关

生成式AI在2023年成为一股变革力量，吸引全世界目光并吸引了大量投资。但生成式AI仍处于早期阶段，目前受惠标的集中在价值链中少数部分。随着生成式AI在未来几年有望被更广泛采用、商机扩大后，这种情况可能会改变，而边缘AI的范畴有望逐步转变成一个关键性的成长领域。

根据估计到2025年，所有企业生成数据中将有超过5成会与边缘AI有关。在这种情况下，包括智慧手机、汽车、PC和边缘伺服器都有望承担更多计算负载，从而实现更快速、更低延迟的体验。

对于像我们这样的终端用户来说，这可能是什么样子？想像一下，AI驱动的智慧手机可在出国旅行时提供即时、准确的对话翻译，或配备个人化人工智慧助手的自动驾驶汽车。

换言之，眼前的创新趋势正朝向边缘AI的方向扩展，可以在边缘AI设备、服务和AI基础设施方面创造投资机会。利用边缘AI的公司将有机会脱颖而出，提供更加个人化和高效的服务，进而从中获得更多竞争优势。

要理解为何边缘AI与集中型模式相比可以产生如此大的差异，要先了解两种AI运算类型：训练和推理。

「训练」涉及在人工智慧模型中发展智能，类似于人类在进入劳动市场之前花费数年时间进行教育和培训的方式。像ChatGPT这样的生成式AI模型，在训练过程中涉及分析来自网站、书籍和维基百科文章的大量文本。数以千计相互连结的图形处理单元（GPU）让这种训练得以有效进行，这些图形处理单元最适合执行此阶段所需的处理。

一旦AI模型经过充分训练，它就会被更广泛地应用在称为「推理」的过程。在推理过程中，AI模型会根据使用者请求执行任务，例如生成照片、提供餐厅推荐或摘要最近发生的事件。推理计算可以超越训练需求，尤其是当数百万用户积极参与生成式AI应用程式时。

然而，仅在数据中心进行AI推理可能成本高昂，并可能导致用户体验不佳。解决这个问题的最佳方法，就是将推理计算分布在整个网路中，包括数据中心、边缘伺服器和离使用者最近的设备。以手机游戏和社交媒体照片滤镜为例，就是采用这个概念，其中推理计算分布在边缘，如此一来将可以增强用户体验。生成式AI可能会遵循类似的发展。

新的设备和服务

将加速应用程式的成长

最近，几家公司宣布即将推出的边缘AI产品：像是一些主要半导体公司已经推出新的神经处理单元（NPU），这是专门为运行人工智慧演算法而设计的晶片；其中一家公司甚至预测，AI驱动的PC在2025年底可能会达到惊人的1亿台。

另一家著名的半导体公司推出了一个行动运算平台，该平台预期提供应用在装置上的生成式AI功能。根据一家全球最大智慧手机制造商的说法，他们打算将AI整合到生产的每台智能设备中。

新的边缘AI设备和服务的引入，具有重大的投资意涵。首先，随着用户愈来愈期待升级他们的设备，边缘AI有可能重振PC和智慧手机的销售。此外边缘AI设备的采用，有机会成为加速下一个「杀手级应用程式」出现的重要推手，类似于智慧型手机第1波浪潮之后，行动应用程式的爆炸式成长。最后，我们认为，边缘AI的成功可能会推动进一步的研究工作，寻求新AI模型的突破，从而要求公司在AI基础设施上投入更多资金。

预期边缘AI将持续发展进步，AI应用范围也将持续扩大，包括在医疗保健、金融和交通等领域的使用。此外更友善的使用介面及工具，将有助广大的使用者更容易接触到生成式AI技术，也代表更广泛的商机。（本文作者为安联投信产品投资咨询部副总裁）