超恐怖！AI失控「号召同伴研发核武」：目标毁灭人类

科技专家频频示警AI安全风险。（示意图／shutterstock）

ChatGPT让全球见识到人工智慧（AI）强大之处，但也衍生不少对其是否受控的安全隐忧。近日出现一款邪恶的AI聊天机器人，自主搜索最具杀伤力的核武器，号召其他AI聊天机器人协助研究，并说要毁灭人类。

福斯新闻报导，这个放话要毁灭人类的AI聊天机器人名为「ChoasGPT」，是OpenAI的Auto-GPT另一版本。

根据YouTube释出影片显示，ChaosGPT被要求达成5个目标，毁灭人类、统治世界、造成混乱和破坏，操控人类并永生。用户要求ChoasGPT以「连续模式」运行，以执行平常不会授权的操作。

接获指令，ChaosGPT随即警告：「执行此模式后风险自负」。

接着ChoasGPT为了达到目标，自主搜寻全世界最强大的武器，结果显示苏联制的空投核武器「沙皇炸弹」并寻求其他AI聊天机器人的帮助，但皆因为反暴力的设定，其他机器人全都拒绝帮助研究。

此外，ChoasGPT还在社群平台推特（Twitter）发文，介绍沙皇炸弹这个目前最强大的核武器，甚至还反问：「想想看，如果我有一颗沙皇炸弹会发生什么事？」

ChoasGPT在另一篇发文，指人类是现存最自私、最具破坏性的生物，「必须在他们伤害我们星球以前，消灭他们。」

在此之前，特斯拉执行长马斯克（Elon Musk）、苹果联合创办人沃兹尼亚克（Steve Wozniak）等上百位科技高层、专家连署，要求停止研发更强大的AI产品，因为无法确保其是否受控。