AI教父忧心AI不受控　诺贝尔物理学奖得主坦言不安

文／中央社

为人工智慧（AI）领域做出开创性贡献的诺贝尔物理学奖新科得主霍普菲尔德8日表示，近期AI技术的发展令他感到「非常不安」，警告若不加以控制，恐招致灾难性后果。

法新社报导，2024年诺贝尔物理学奖由美国科学家暨普林斯顿大学（Princeton University）教授霍普菲尔德（John J. Hopfield）以及英国出生的加拿大科学家辛顿（Geoffrey E. Hinton）共享殊荣。

▲2024年诺贝尔物理奖得主出炉，由2名学者共享殊荣。（图／诺贝尔官网）

两人因催生AI发展的开创性成果而获奖，也共同呼吁更深入理解深度学习系统内部运作机制，以防止失控。

高龄91岁的霍普菲尔德在英国以视讯参与普林斯顿大学聚会时提到，他一生中目睹了2种强大但有潜在危险的科技崛起，分别是生物工程和核物理。

霍普菲尔德说：「人们已习惯拥有优劣并存、一体两面的科技……身为一名物理学家，我对于那些不受约束、我不够了解的科技感到非常不安，因为我无法明确知道这种科技的极限，也不知道它能被运用到什么程度。」

他接着说，「这正是AI引发的问题」，尽管现代AI系统看似「令人叹为观止」，但对其运作缺乏理解，让他感到「非常、非常不安」。

霍普菲尔德说，这正是他和辛顿为何强烈主张「理解」是AI领域的基本需求，因为AI正在发展出一些超越目前想像的能力。

辛顿去年跃居AI末日论的代表人物，他在获聘为名誉教授的多伦多大学（University of Toront）举行的新闻发布会上重申这个主题。

76岁的辛顿对记者说：「如果你环顾四周，几乎没有较高智能的东西被智能不如它的东西控制的案例，这让你不禁想，当AI比我们更聪明时，它们是否会反过来控制我们。」

他补充说：「我主张，我们最优秀的年轻研究员或他们多数人都应致力投入AI安全性研究，政府也应强制大型企业提供电脑相关资源，这是他们该做的事。」