资安院靠AI揪160万机器人帐号 源头打诈锁定广告验证

数位发展部次长林宜敬表示，面对AI技术带来的新型诈骗威胁与资安挑战，数发部运用先进科技手段多管齐下，以AI技术防制AI诈骗，快速识别诈骗讯息，提前预测并防范潜在的诈骗行为，遏制AI网路诈骗的蔓延与扩散，数发部并透过资安技术研发与攻防演练，提升国家整体数位安全防护能力。

资安院说明，生成式AI使得诈骗文本的生成变成自动化，机器人帐号大量投放诈骗广告并留言与按赞，营造文章受到群众踊跃支持的假象，并于社团、群组发文，增加机器人帐号的活动范围和影响力。为了躲避相关单位追查，机器人帐号亦会修改用户资讯，频繁更换个人档案、照片和活动模式，以掩饰其真实身份。

资安院副院长林盈达举例，根据AI侦测的结果，目前有投放过诈骗广告的粉专帐号大约有1.6万个，资安院随机取其中1千个来比对可发现特征类似、但尚未投放过诈骗广告的粉专帐号，大约有10万个，所以可以推估在1.6万个出面投放过诈骗广告帐号背后还有160万个帐号可以发派使用，称之为「百万机器人大军」一点也不夸张。

林盈达续指，它们每天投放5千到1万则只存活1到2天的诈骗广告，并营造群众多样性与热度，还会利用同温层免费传播。

有关如何源头打击AI诈骗议题，林盈达进一步表示，末端清扫的策略只能对诈骗广告下架，但也要够快够自动化才能处理每天数千则，不太可能去处理160万的机器人帐号。源头打击的策略须在粉专帐号投放广告时，由广告代理商进行第二层的粉专帐号或真实帐号验证机制，不能只是平台业者对广告代理商做第一层的验证，而刚通过的打诈专法已经赋予上述策略的法律工具。

此外，资安院数位讯息组经理江禹贤表示，数发部亦委托资安院研发「诈骗关键字提取、资料探勘深化、讯息溯源」等系列打诈技术，透过结合大数据分析、人工智慧和机器学习等各项前瞻技术，能有效协助相关单位快速识别和分析潜在诈骗威胁。

江禹贤说明，AI技术能伪造文字、影音和图像，亦能提供强大的检测和过滤工具，有效识别和清除机器人帐号。面对不断推陈出新的诈骗手法，需要技术、法规和国际等多方努力，才能有效遏制诈骗行为。

数发部表示，除了当前国人相当关心的推动打诈工作，为整体提升我国数位环境资讯安全及韧性，也责成资安院定期进行政府系统的网路攻防演练，以确保机关可以事前针对网路攻防演练所发现的常见弱点，如认证及验证机制失效、注入攻击、无效的存取控管、不安全的组态设定及加密机制失效等进行修补，使系统在发生资安事件时，具备紧急应变、系统复原及协调管控等能力。

另外，关键基础设施及产业的资安亦是数发部重点工作，数发部表示，数产署沙仑资安服务基地展示「智慧物联网」、「关键基础设施」、「智慧制造」等资安情境主题，其中「智慧物联网」展示通过资安检测的门禁系统，预防骇客以重送通行码方式破解门禁。

数发部说明，「关键基础设施」模拟骇客进行中间人攻击，并展示工控场域资安健检解决方案，协助工控业者找出存在于厂区内部的可疑网路行为；「智慧制造」则呈现小型智慧生产线导入白名单资安解决方案，以预防员工误用夹带恶意程式的可携式装置导致产线遭骇，期望应用真实资安事件攻防脚本，推动产业资安意识，协助厂商优化产品及服务功能，提升台湾资安实战防护能量。