OpenAI前员工辞职爆内幕：不想为AI泰坦尼克号工作

鞭牛士报道，7月12日消息，据外电报道，OpenAI 前雇员、公司超级对齐团队成员威廉·桑德斯 (William Saunders) 最近透露，他之所以辞职，是因为他觉得公司正走向悲剧，就像 1912 年命运多舛的皇家邮轮泰坦尼克号一样。

据《商业内幕》报道，桑德斯在科技记者亚历克斯·坎特罗维茨的播客节目中发表了他的评论。

桑德斯告诉坎特罗维茨，他在 OpenAI 任职的三年期间，有时会问自己，公司走的道路是更像阿波罗计划，还是更像泰坦尼克号。

他的理由似乎是，通过谨慎的科学努力，阿波罗太空计划尽管遭遇挫折但仍然取得了成功，而泰坦尼克号尽管取得了成功但最终还是失败了。

他表示，为了确保船只安全，建造防水舱室，他们付出了很多努力，因此可以说这艘船不会沉没。但与此同时，救生艇的数量却不足以满足所有人的需求。

桑德斯将公司的总体精神描述为：产品开发比实施合理的安全预防措施更重要。

他描绘了这样一种办公室景象：提出安全问题的员工会受到惩罚，而领导层只关注利润。

「随着时间的推移。」桑德斯说，「我开始真正感觉到领导层做出的决定更像是白星航运公司建造泰坦尼克号。」

桑德斯并不是第一个不同意 OpenAI 经营方式的人。该公司的联合创始人之一埃隆·马斯克 (Elon Musk) 最近起诉 OpenAI，称其偏离了最初的使命太远。尽管马斯克多年来一直与 OpenAI 没有任何关系，目前经营着自己的直接竞争对手 xAI，但诉讼仍然没有成功。该诉讼随后被撤回。

竞争对手 AI 公司 Anthropic 由前 OpenAI 员工和联合创始人于 2021 年创立，原因是人们担心 OpenAI对信任和安全关注不够。

然而，另一方面，另一位现已疏远的联合创始人兼前首席科学家伊利亚·苏茨克韦尔 (Ilya Sutskever) 于 2024 年 5 月离开公司，创办了自己的公司。 他当时写道，他相信OpenAI 团队能够安全地实现其目标。

有如此多的员工跳槽，而且至少有一人拿泰坦尼克号来比喻，那么当前的问题是：谁或者什么是冰山？

如果比喻中的乘客是我们——全人类——那么冰山就代表着 ChatGPT 和类似系统对毫无准备的社会构成的生存威胁。如果人工智能变得比我们更聪明、更有能力，而我们没有足够的救生艇来保护每个人免受其潜在伤害，那么我们可能会走向悲剧。

但如果乘客是股东和利益相关者，等待 OpenAI 创造出与人类一样聪明的人工智能，而这永远不会发生，那么也许这座冰山代表着生成人工智能泡沫的破灭。