前员工爆料,OpenAI AGI安全团队已流失近半成员

据Fortune报道,OpenAI前治理研究员Daniel Kokotajlo表示,在过去几个月里,OpenAI几乎一半的AGI安全团队成员已经离职。这引发了外界对公司是否正在忽视AI安全性的担忧。

AGI安全研究人员主要负责确保未来开发的AGI系统不会对人类构成生存威胁。然而,随着OpenAI越来越专注于产品和商业化,研究人员的离职意味着公司的安全研究团队正在逐渐缩减。

Kokotajlo指出,自2024年以来,OpenAI的AGI安全团队已经从约30人减少到16人左右。他认为,这并不是一个有组织的行动,而是个人逐渐失去信心而离职。

OpenAI发言人对此表示,公司为能够提供最有能力、最安全的人工智能系统感到自豪,并相信自己具有解决风险的科学方法。(IT之家)