AI造假難辨 潘朵拉盒子打開了

AI犯罪威力如核武，股神巴菲特今年5月在波克夏年度股东大会上预警，AI诈骗恐将成为高速成长产业 图／AI自动生成模拟情境图

AI犯罪威力如核武，股神巴菲特今年5月在波克夏．海瑟威公司（Berkshire Hathaway）年度股东大会上预警，AI诈骗恐将成为高速成长产业，他形容「世界已经将精灵从瓶子中释放出来」，无法预测好处跟坏处发展，必须审慎注意后果。

巴菲特看过自己深伪影片之后非常惊讶，坦言连他的妻子跟孩子都难以辨别真伪，他甚至打趣地说：「我可能被自己骗到，把钱汇出海外。」

不仅股神预测AI助长犯罪，警政署最新统计，国内诈骗案件数量连续五年逐年攀升，今年新公布8月单月诈骗量就6,008件创历年新高，前八月已逾3万件，刑事局预防科科长林书立指出，其中AI诈骗案数量虽不易厘清，但声音诈骗或影像诈骗大增，诈骗受AI助长是肯定的。

伪冒猖獗 诈骗报案暴增

名人诈欺、爱情诈欺频传，假冒理财专家谢金河及假孔刘以视讯短影音及AI假声音取信被害人，一通老板打来的电话，可能是AI深伪假冒，一般民众电话中跟销售人员小聊几分钟，没几天就有AI假声音诈骗电话上门伪装家人。

林书立指出，只要一个人3~5秒的声音，AI就能模拟，虽稍嫌粗糙，但诈骗集团常营造危急情境，引受害者入局。

不只是民众成AI深伪受害者，政府机关也面临AI行骗但隐然不觉。

刑事局近期破获一起犯罪集团事件，犯罪者利用AI模型，找跟护照「买家」脸型相似的护照持有人，利用AI生成出混合买家跟卖方脸孔的AI照片，拿该AI照片向外交部申办换发新护照，AI生成照尽管跟本人仍相似，却是一张不折不扣的AI作品，但护照竟成功核发。

根据外交部领事事务局「晶片护照照片规格」官网说明，护照申请人不得使用合成或镜像照片（手机自拍照，会使脸左右颠倒）， 但没提到「禁止AI生成或AI证件照」等字，使用AI是否合规？记者致电外交部询问，外交部的答复「不行」，建议相馆或快照机拍照。

遗憾的是，政府虽然不同意用AI证件照，但外交部受理检核系统无法侦测AI深伪照片。专家指出，意外披露政府公务人员体系面临的困境：AI发展太快，民间与政府都缺乏适合的检核工具，AI治理出现漏洞。

「这一定是不会被允许的，（AI证件照）只是没被抓出来，从法律层面就是伪造。」阳明交大智能系统研究所所长廖元甫指出，政府没有办法发现民众使用AI证件照，是因为AI技术发展太快速了，「本来做不到的事情，现在一下子都可以做到，但是制度建立要一点时间。」

「AI是一种工具，跟菜刀一样，可以用在好的地方，也可以用在不好的地方。」廖元甫指出，最终还是要看人的警觉。

AI演算法正在飞跃式发展，AI的正向功能背后，也不能忽略有AI犯罪藏于阴影中，若社会只专注将资源投注在AI应用发展，疏于扶持有助于AI治理的AI鉴别技术发展，将使社会陷入「AI技术负债」风险。

所谓的AI技术负债，是软体业著名的管理陷阱名词，就是当科技开发者只专注于眼前的短期利益，创新发展速度远超过治理框架进步步伐，将使社会及组织面对风险处于劣势。

台湾诈欺案数量

管理不足 法律问题丛生

AI技术负债除犯罪事件，还包括根本上的著作权侵权争议，AI演算法的成功，需要大量优良品质数据训练，为能有庞大资料量，众多AI模型取得资料来源的管道都处于灰色地带，AI文生图模型大量取用他人绘图作品，《纽约时报》与OpenAI的官司更是指标性案例。

去年底纽约时报发现ChatGPT模型会产出有纽约时报浮水印的内容，因而提告侵犯著作权，达文西个资暨高科技法律事务所所长叶奇鑫坦言，该官司对未来AI发展是否能「合理取用」他人数据有关键意义。

许多数位创作者内容遭取用，若《纽约时报》胜诉，则未来更多侵权提告案件将出现，如何举证对许多创作者仍是难题。

AI以假换真的能力，也迷惑众人，叶奇鑫曾担任检察官，承办诈骗案经验多，他观察因为用AI深伪技术变得容易，AI正衍生新的法律问题，如国外已有AI教唆自杀事件，可能连司法官面对五花八门的AI问题，都难以马上确定谁是被害人、该主张何权益。

国科会主委吴诚文喊话四年内台湾要几入世界AI强国前十名，AI治理成绩势必要直面AI犯罪课题，副总统萧美琴9月在AI年会上致词提到，「AI是一场革命，这个革命是成是败，在于是不是能够一起跟得上时代。」当AI犯罪产业蓬勃发展，提出治理对策，台湾势必须领先做出示范。

创作者心血如何被AI诈走

各种AI涉及犯罪类型