AI武器恐10年内问世

2023年4月，当时75岁的辛顿宣布退休，离开任职10年的谷歌。他谈起AI对人类可能造成的威胁，强调AI可能会提出对使用者不利的方法。

辛顿以气候变迁为例，假设使用者向一个非常聪明的AI请教如何阻止气候变迁，他认为AI首先的认知是「需要摆脱人类」。因此，人类在使用AI指定目标时，必须非常小心。

此外，辛顿假设不同AI之间存在竞争，并将互相争夺资源产生进化，而人类将远远落后，而且失控的AI将聪明到足以说服人类不要将其关闭。

谈及联合国制定有关军用AI规范的决议，辛顿认为，未来10年内将出现能够自主杀人的AI武器。然而这类型武器可能要等到实战时出现、人类意识其惨烈的后果后才会被真正限制，就像当年一战时酿成悲剧的化学武器。

辛顿直言：「我们谁也不希望看到被AI支配的未来，这将在各国制定AI武器规范的过程中，维持基本共识。」就像核战一样，对全球都产生危害。