人工智慧學壞了？英國官員：AI聊天機器人可能帶來風險

英国官员今天对各个组织示警说，愈来愈多研究显示，人工智慧（AI）聊天机器人用于业务上可能会被诱骗去从事有害的任务。路透社

英国官员今天对各个组织示警说，愈来愈多研究显示，人工智慧（AI）聊天机器人用于业务上可能会被诱骗去从事有害的任务。

路透社报导，英国「国家网路安全中心」（NCSC）在2篇预定今天发布的部落格文章中指出，专家还没能理解以及因应与大型语言模型（LLM）演算法有关的潜在安全问题，这种模型能产生类似人类的互动。

这种AI工具早期被作为聊天机器人，一些人甚至认为，聊天机器人未来不只会淘汰网路搜寻，也会取代客服和揽客电话等。

「国家网路安全中心」表示，聊天机器人可能存在风险，尤其是如果这种模型被插入重要机构的业务流程时。学术界与研究人员一再发现，如果输入恶意指令或欺骗它绕过内建的防护机制，就可以扰乱聊天机器人。

例如，若骇客以精心设计的方式一步步下达指令，银行的聊天机器人可能被骗去进行未获授权的交易。