图灵汇官网

杰弗里·辛顿：人工智能的双刃剑

杰弗里·辛顿是一位充满矛盾的科学家，他的成就令人敬佩，但同时也引发了诸多担忧。近日，辛顿因其在神经网络和计算机路径方面的研究，与美国科学家约翰·霍普菲尔德共同荣获诺贝尔物理学奖。然而，这位被誉为“人工智能教父”的科学家近年来却表达了对人工智能潜在危险的深切忧虑。

辛顿的经历让人联想到神话中的普罗米修斯和先知卡珊德拉。他一方面推动了科技进步，另一方面又对技术可能带来的负面影响感到不安。这种矛盾的心态在历史上不乏先例，如J·罗伯特·奥本海默和阿尔伯特·爱因斯坦，他们也曾因自己的研究成果而陷入道德困境。诺贝尔奖的设立者阿尔弗雷德·诺贝尔本人也对他的发明可能造成的后果感到忧虑，因此创立了诺贝尔奖。

在2023年接受《60分钟》采访时，辛顿表示：“我们正处在一个充满不确定性的时代，我们面临着前所未有的挑战。”他指出，人类对人工智能的理解还很有限，而机器有可能变得比人类更聪明，甚至可能决定接管世界。辛顿在接受NPR采访时进一步阐述了他的担忧：“我们必须找到一种方法来阻止这种情况的发生。”

辛顿的职业生涯大部分在美国和加拿大度过。在多伦多大学，他取得了重要的科研成果，这些成果后来成为了现代人工智能的基础。2012年，辛顿和他的两名学生开发出一种可以从图片中识别基本物体的神经网络，这一技术后来被谷歌以4400万美元的价格收购。随后，辛顿在谷歌工作了十年，直到2023年退休。

退休后的辛顿更加自由地表达他对人工智能的担忧。他表示，人工智能的进步速度令人震惊。在2023年接受《纽约时报》采访时，辛顿感叹道：“与五年前相比，现在的变化太大了，这太可怕了。”他特别担心人工智能模型之间可以互相传播新信息的能力，这种能力远远超过了人类的学习效率。

辛顿的一些观点颇具争议，例如他认为人工智能系统能够“理解”自己的行为。虽然目前大多数人认为人工智能系统只是按照编程输出特定结果，但辛顿认为，人工智能系统的学习机制意味着它们确实需要理解正在学习的内容。例如，他曾在一次实验中要求一个聊天机器人解释一个笑话为什么好笑，这个机器人不仅理解了幽默的微妙之处，还能清晰地表达出来。

辛顿担心，随着人工智能系统的不断进化，人类可能无法完全控制它们。他设想了一种情景，即人工智能系统能够修改自己的学习协议，并逃避人类的监管。他甚至认为，这些系统将学会利用人类的弱点，变得更加善于说服人类。

总之，辛顿的故事提醒我们，科技的发展是一把双刃剑。尽管人工智能带来了巨大的进步，但也伴随着不可忽视的风险。我们需要在推动科技进步的同时，保持警惕，确保技术发展不会失控。