數發部年底推人工智慧風險分級框架 引領AI安全發展

数位发展部部长黄彦男指出，未来企业如果不会用生成式AI，很可能会被淘汰，然而生成式AI的风险伴随应用而升，政府政策蓝图必须引领AI安全发展，因此数发部将推动人工智慧风险分级框架，预计今年底出炉。图／联合报系资料照片

数位发展部部长黄彦男指出，未来企业如果不会用生成式AI，很可能会被淘汰，然而生成式AI的风险伴随应用而升，政府政策蓝图必须引领AI安全发展，因此数发部将推动人工智慧风险分级框架，预计今年底出炉。

黄彦男今天出席GDDA 2024国际AI资安论坛，他于专题演讲时指出，生成式AI让人类的生活与工作发生重大改变，在此浪潮之下，全球政府都在思考人如何与AI合作，但不可讳言，生成式AI带来诸多好处的同时，风险也伴随应用而升。

黄彦男点出生成式AI的5大风险及影响面向，分别是虚假讯息、资讯安全、国家安全、内容合规与侵犯智慧财产权；虚假讯息方面，可能导致假消息及恶意言论泛滥，或是操纵舆论等问题，资安方面则有机敏资料外流，以及滥用深伪技术、模型攻击与防御等威胁。

国安面向，存在国家机密资料或国民资料外泄、搜集影响国家安全的资讯、国家立场或政治舆论操弄等风险。

黄彦男表示，有鉴于AI的机会与风险伴随而生，全球政府陆续拟定AI治理政策与指引，台湾也由国科会于今年7月端出人工智慧（AI）基本法草案，引导各机关发展AI应用；数发部也将参考国际标准或规范，推动人工智慧风险分级框架，各目的事业主管机关得循前项风险分级框架，订定主管业务的风险分级规范。

黄彦男会后受访时表示，风险分级框架会分成好几级，如高中低等分级方式，会根据风险、怎么应用，有不同风险要求，预计年底要出炉。

黄彦男也说，推动AI研发与应用过程中，应确保AI应用不会侵害个人资料、生命财产安全，或引发偏差、歧视，并由相关机关提供评估工具，协助各部门避免风险。