前OpenAI首席科學家辦新公司 要創建安全強大的AI體系

前OpenAI首席科学家苏特克韦尔(右)周三宣布创办新AI公司,他曾在OpenAI执行长奥特曼(左)戏剧性被解雇后又回锅的事件里扮演关键角色。路透

ChatGPT开发商OpenAI的联合创办人兼前首席科学家苏特克韦尔(Ilya Sutskever)周三在X平台发文,宣布他创办了一家新的人工智慧公司Safe Superintelligence,旨在透过纯研究机构创建一个安全强大的AI体系,短期内无意销售AI产品或服务。

去年11月,OpenAI执行长奥特曼戏剧性被解雇后又回锅,苏特克韦尔扮演了关键角色,他在5月离开OpenAI,此后外界都在问,他去哪儿了。创办新公司显示,苏特克韦尔试图继续自己的工作,不受OpenAI、Google和Anthropic等竞争对手的干扰。

他受访时说:「这家公司很特别,第一项产品将是安全的超智慧(superintelligence),在此之前不做任何其他事情。它将完全不受外界压力的影响,不必处理庞大而复杂的产品,也不必陷入竞争激烈的老鼠赛跑。」

正如公司名称所强调的,苏特克韦尔将AI安全性放在首位。重点当然是去鉴别是什么让一个AI系统比另一个更安全,或者说,究竟是否安全。苏特克韦尔目前对此含糊其辞,但他说,新公司将尝试经由AI系统里的工程突破,而非仰赖临时防护措施来实现安全。

苏特克韦尔还有两位联合创办人。其中一位是投资人、前苹果公司AI主管格罗斯(Daniel Gross),另一位是前OpenAI研究人员李维(Daniel Levy),他曾与苏特克韦尔并肩工作,在训练大型AI模型方面有良好的声誉。

李维说他的愿景与苏特克韦尔完全相同,「一个小而精干的破解团队,每个人都专注于安全的超智慧(safe superintelligence)这个单一目标。」

新公司将在加州帕罗奥图和以色列特拉维夫设办事处。苏特克韦尔和格罗斯都成长于以色列。

Safe Superintelligence在某种程度上是回溯OpenAI最初的概念:一个试图建立通用人工智慧的研究机构,在许多任务上可以有不相上下、甚至是超越人类的表现,但随着愈来愈需要筹集巨资购买算力,OpenAI的结构发生了变化,导致该公司微软建立紧密合作,并推出能创造营收的产品。所有主要的AI公司都面临同样的问题,随着AI模型的规模疯狂扩大,它们需要为不断扩大的运算需求支付费用。

这些现实问题题让Safe Superintelligence成为投资人的一场豪赌,他们押注苏特克韦尔的团队能取得突破,从而在竞争对手之间占据优势。这些投资人砸钱时,不指望能创造出能获利的热销产品。Safe Superintelligence想实现的目标是否可能,也还不清楚。

该公司名字里的「超智慧」(superintelligence)是AI领域的行话,与大多数大型科技公司正在研发人类水准的AI相比,这是另一级别的系统。对于超智慧能否实现,或者如何构建这种智慧,业内还没有达成共识。

尽管如此,鉴于创办团队的声誉以及人们对该领域的浓厚兴趣,Safe Superintelligence在融资方面可能不会遇到太大的困难。苏特克韦尔拒绝透露Safe Superintelligence的金主是谁以及他已经筹集了多少资金。格罗斯则说:「在我们面临的所有问题中,筹集资金不是其中之一。」