AI机会与挑战并行 学者呼吁须做好安全准则

大陆民众正在了解AI数位人形象产品。（摘自新华社）

人工智慧（AI）的蓬勃发展为人类创造无穷机会的同时，也带来未知风险。大陆与国外学者表示，AI技术的发展消除人与机器的语言鸿沟，使得两者相互理解成为可能，但也不忘提醒，通过掌握语言，AI可以形成一种异种文化，甚至可能将人类安置在矩阵般的幻境世界。人类需要做好AI模型的安全准则，确保对人类有益。

澎湃新闻报导，复旦大学电脑科学技术学院教授、上海市资料科学重点实验室主任肖仰华受访时提及，曾经机器和人类之间也存在着这样的情况，至少机器一直以来都无法准确理解人类的自然语言，所以实际上人类一直迁就机器，将自己的意图转换成各种各样的形式语言。

肖仰华直言，但现在看来，这些所有的形式语言都不必要了，基本上可以被自然语言代替。某种程度上而言，可以认为机器「理解」了人类的自然语言，同时也理解各种专业的形式化语言，可以把人类各种自然语言所表达的意图准确转换成相应的形式语言，比如程式设计的语言和晶片设计的语言。

大语言模型消除了语言鸿沟，机器理解人类不再存在障碍。以色列历史学家哈拉瑞（Yuval Noah Harari）认为，今年4月在Frontiers论坛上演讲时表示，人工智慧正在以超过人类平均水准的能力掌握语言。而通过掌握语言，人工智慧正在掌握入侵人类文明系统的钥匙。

哈拉瑞甚至预言，人工智慧与印刷机、收音机以及历史上的每一项发明都有根本不同，因为它可以创造全新的想法，可以创造新的文化。人类从未真正直接接触到现实，而总是通过文化的棱镜来体验现实。通过掌握语言，人工智慧可以形成一种异种文化，拥有将人类包裹在矩阵般的幻境世界所需的一切。

加州大学柏克莱分校罗素（Stuart Russell） 教授受访时称，大语言模型本质上是一个「黑箱」，人类很难确切了解触发人工智慧「胡言乱语」（即通常所说的幻觉）的机制是什么，这种未知带来当下的担忧。「我们完全不知道这个系统是如何工作的。如果它确实有内部目标，我们也不知道是什么导致了这些目标被启动。」

开发ChatGPT的人工智慧机构OpenAI也频频发出警告。OpenAI联合创始人阿特曼（Sam Altman）6月在2023北京智源大会上提醒，想像一下，未来的AGI（通用人工智慧）系统或许具有10万行二进位码，人类监督员不太可能发现这样的模型是否在做一些邪恶的事情。”

复旦大学电脑科学技术学院教授、MOSS大模型负责人邱锡鹏认为，通用人工智慧会实现更高端的医疗、更优质的教育、更大的科学进展，这将为社会上每个人带来更美好的生活。但同时，人类还需要做好人工智慧模型的安全准则，确保对人类有益。