沈向洋对话图灵奖得主：时代的AI治理挑战与机遇并存

7月4日消息，2024世界人工智能大会全球治理图灵圆桌环节，原微软执行副总裁、美国国家工程院外籍院士沈向洋对话三位图灵奖得主罗杰·瑞迪（Raj Reddy）、曼纽尔·布卢姆（Manuel Blum）、姚期智。

谈及对AI的观点与担忧，罗杰·瑞迪表示，自己很惊喜也很高兴，第一是看到了大家都对AI治理方面的风险问题、安全性问题有所担心，但具体需要做哪些研究？需要做哪些投资？目前还没有明确做到。第二，正如联合国发言人讲到的“能力建设”，我们可以尽力让AI帮助每个人把自己工作做好。

罗杰·瑞迪认为新技术会产生新的机会，也会带来问题，但不应只想着负面影响就不继续了，未来，世界上每个人的生产效率将上涨10倍，GDP也将从100万亿生长到1000万亿。

曼纽尔·布卢姆在过去几年重点研究AI意识问题，他与雷诺尔·布朗创立了意识的模型，即“有意识的图灵机（CTM）”。大脑里有100多亿神经元，100亿的处理器，CTM模型可以告诉人们如何让很多处理器同时工作。

姚期智认为AI风险主要来自三方面：一是网络风险延伸和扩大，随着AI能力出现，传统的数据和网络安全方面风险会被放大；二是没有意识到的社会风险，如AI非常强大，且有很多使用方式，所以颠覆现有社会结构在短时间内发生的可能性是存在的，AI带来大规模失业的可能性也存在；第三是所谓生存或存在的风险。

姚期智表示，所有这些风险都需要很多专家来解决，不仅是科学家，还需要政府、律师、经济学家来参与，几乎涉及每一个行业。

在姚期智看来，AI相当于网络风险的放大，AI的风险也与计算性相关，目前的算力能解决很多以前不知道如何解决的问题，但这也是让人感到非常恐惧的地方。因此，行业需要将AI控制好，也不希望AI进行破坏，这样的平衡是非常困难的。（汤姆）