图灵汇官网

导览

诺贝尔物理学奖得主杰弗里·辛顿访谈记

引言：在10月9日的一次直播访谈中，荣获2024年度诺贝尔物理学奖、被誉为“AI教父”的加拿大多伦多大学教授杰弗里·辛顿，分享了他对学生、AI行业以及AI安全的深刻见解。

辛顿的骄傲与学生成就

杰弗里·辛顿表示，他引以为豪的是，他的学生不仅才华横溢，且成就非凡，其中一位学生甚至解除了OpenAI首席科学家萨姆·阿尔特曼的职务。这位学生正是Ilya Sutskever，曾是OpenAI的联合创始人，并在2023年底的公司内部争端中扮演关键角色。

解雇萨姆·阿尔特曼与AI安全

Ilya Sutskever通过视频电话通知了萨姆·阿尔特曼被董事会解雇的消息。虽然事后Sutskever对此表达了后悔，但辛顿认为，这次解雇是AI安全领域的一个积极进展。然而，阿尔特曼不久后恢复了CEO职位。

AI安全与控制挑战

在访谈中，辛顿强调了对AI发展的担忧，特别是当AI超越人类智慧时，如何确保其可控性。他呼吁加强AI安全研究，强调：“我们得到比我们更聪明的东西时，没有人真正知道我们是否能掌控它们。”

对阿尔特曼的批评

辛顿指出，阿尔特曼过于重视利润，而忽视了AI安全的重要性，这是一个不幸的现象。

结语

此次访谈不仅揭示了AI领域内的权力动态，还突显了杰弗里·辛顿对AI伦理和安全的深思熟虑。他承诺将致力于倡导AI安全，而非领导前沿研究，体现了他对技术发展和社会责任的平衡思考。