產業追蹤／數位時代 資安思維不可少

人工智慧与资安双向应用

在数位经济时代，AI的应用与资讯安全发展已密不可分，两者之间形成一个交互影响的环状关联产业生态系，涵盖保护AI的资安、使用AI强化资安，以及AI驱动的攻击。每一个环节都在塑造我们对安全的理解和因应措施。

首先，保护人工智慧的资安（Cybersecurity for AI）是确保AI系统在开发、训练与运作过程中的核心。随着AI应用于各行各业，安全性变得很关键，这包括多面向：一开始是AI场域可信赖性，确保AI的行为符合人类基本价值观；其次是AI系统的安全性，需要防范各类对抗性攻击。训练资料与输出结果的保护也不容小觑，这些资料直接影响AI系统的表现和可信度。透过安全措施，AI系统得以在受保护的环境中运作，为用户提供可信赖的服务。

在Cybersecurity for AI领域中，涵盖AI系统规格的验证，并确保AI的效率、安全、稳健性与公平性等特质。AI所做的决策必须能被信任，尤其面对对抗性攻击时，需借助新兴赋能科技来维持稳定。此外，AI系统本身的资安已提升至国安层面，各国积极投入AI资通安全标准与合规的制定，并将其视为国家发展策略的重要环节。因此，涵盖AI赋能的资讯软体暨系统，以及供应链的安全，能否被信任，亦是资安领域的重点课题。

使用人工智慧强化资安（AI for Cybersecurity）是反向利用AI的强大分析能力来提升资安防御。AI能够处理大数据分析，快速侦测潜在威胁，这在现代资安中起到重要的作用。AI驱动的威胁侦测系统可识别异常行为并即时发出警报，有效吓阻潜在攻击。主动式防火墙利用AI即时监控网路流量，并根据学习到的模式自动调整防护措施。AI还可用于智慧鉴识，分析恶意程式的特征，并生成防御策略。

零信任也是资安架构思维。在AI赋能资安的数位浪潮中，企业的资安防护策略须跟上时代脚步，善用AI赋能科技可确保资安的全面性。企业资讯长（CIOs）及资安长（CISOs）需要具备能「见树又见林」的策略，结合AI和零信任理念，全面提升资安防护。

零信任安全策略的核心在于假设网路环境已被入侵，并围绕企业最重要的资产—资料，来定义防护表面。企业须明确定义谁、何时、借由什么管道、基于什么原因可存取关键资料，并持续监控管理相关行为。而「网路安全网格架构（CSMA）」旨在缩小被攻击的表面，并将现有资安解决方案整合成一个蜘蛛网状的架构，以便监控网路安全。零信任是由内而外的策略，而CSMA更倾向于由外而内的架构。建议企业同时关注零信任（树木）和CSMA（森林），整合现有安全解决方案，达到内外兼顾，极大化价值整合。

生成式AI技术在资安领域的应用，掀起一场资安产业军备竞赛。全球各大资安厂商都积极推出基于生成式AI的新型资安产品与服务。大型语言模型在各行各业的广泛应用，展示AI生成式对抗网路技术的惊人潜力。

随着AI技术的进步，AI能进行系统弱点分析，快速识别目标系统中的漏洞，为后续攻击创造机会。社交工程攻击也因AI介入变更精确，生成高度拟真的钓鱼邮件或诈骗电话，增加攻击的成功率。此外，深伪技术（DeepFake）与假讯息的结合，使虚假资讯变更逼真且难以识别，从而增加诈骗成功的可能性。这些AI驱动的攻击对现有资安防护措施带来挑战，迫使资安专家不断提升防御能力。

AI嵌入资安的智慧应用已成显学，智慧资安系统（SOC／SIEM／SOAR等）的服务更是资安厂商竞相投入的重点。SIEM和SOC成为企业安全防护的重要盾牌，其中SIEM提升资讯环境的可视化，而SOC像监控塔台一样，提供相关威胁的即时回应。（作者是资策会MIC资深产业分析师）