社群160万个机器人帐号 资安院AI打诈:广告诈骗只活4小时

数发部次长林宜敬(左二)、资安院副院长林盈达(左一)视察沙仑沙仑资安暨智慧科技研发大楼。(曹婷婷摄)

数发部次长林宜敬(右站立者)视察资安院团队的攻防演练。(曹婷婷摄)

诈骗案层出不穷,数位发展部辖下国家资通安全研究院,今(19)日在台南沙仑资安暨智慧科技研发大楼发表AI打诈,指光是今年上半年,投放在社群平台的诈骗广告粉专帐号就有1.6万个,溯源分析超过10万个尚未投放的机器人帐号,推估背后多达160万个帐号可发派使用,资安院目标是缩短诈骗广告存活时间至4小时。

资安院运用AI技术防制AI诈骗,每天侦测网路诈骗内容约5000笔到1万笔,在诈骗广告产生4小时内,完成收集、侦测、通报与下架,目标是让诈骗广告存活从24小时剩4小时,资安院副院长林盈达表示,「就像减少空气中病毒」。

数发部次长林宜敬表示,面对AI技术带来的新型诈骗威胁与资安挑战,数发部运用先进科技手段多管齐下,以AI技术防制AI诈骗,快速识别诈骗讯息,提前预测并防范潜在诈骗行为,遏制AI网路诈骗的蔓延与扩散。

资安院副院长林盈达表示,根据AI侦测的结果,有投放过诈骗广告的粉专帐号约1.6万个,随机取其中1000个比对可发现特征类似、但尚未投放过诈骗广告的粉专帐号约10万个,可推估在1.6万个投放过诈骗广告帐号背后还有160万个帐号可发派使用,称之为「百万机器人」大军一点也不夸张。

资安院统计,社群平台每天投放5000则到1万则只存活1、2天的诈骗广告,并营造群众多样性与热度,还会利用同温层免费传播。目前透过末端清扫,通报数位平台后的下架比率达9成,下架时间最快4小时,最慢8小时,但仍盼速度能加快。

林盈达表示,末端清扫只能对诈骗广告下架,但仍不太可能处理160万机器人帐号,现也针对源头打击,持续与平台业者沟通,要求在粉专帐号投放广告时,由广告代理商进行第2层粉专帐号或真实帐号验证机制。林宜敬则强调,甫通过的打诈专法已赋予上述策略的法律工具。

资安院数位讯息组经理江禹贤表示,数发部委托资安院研发「诈骗关键字提取、资料探勘深化、讯息溯源」等系列打诈技术,透过结合大数据分析、人工智慧和机器学习等各项前瞻技术,目前已能有效协助相关单位快速识别和分析潜在诈骗威胁。