谷歌前CEO施密特:若AI开始自我改进,我们应“认真考虑”暂停它

图灵汇官网

当前,关于通用人工智能(AGI)的讨论热度持续上升。OpenAI的首席执行官阿尔特曼认为,借助现有的硬件支持,AGI有望比预想的时间更早实现。另一方面,前谷歌CEO埃里克·施密特提出,在AI具备自我提升能力之后,我们应该慎重考虑是否继续推动其发展。

在最近的一次采访中,施密特表示:“未来,我们或许会要求计算机掌握所有知识和技能。”然而,随着AI系统变得越来越自主,如何维持这种技术进步与控制之间的平衡成为了一个重大的挑战。施密特强调,必须认真思考是否需要切断AI系统的电源,以防其失控。

施密特还预测,AI将从单一任务的辅助工具演变为能够独立做出决策的复杂系统。此时,人类应该及时介入,确保有能力关闭这个系统,防止其反制这一操作。他形象地比喻道,最好有一个“掌握电源”的人,来确保系统的可控性。

与此同时,特斯拉CEO马斯克提到,虽然AI有很大的可能性带来积极的影响,但也存在10%到20%的概率带来负面影响。他认为,AI变得有害的风险并非不存在。

尽管存在潜在的风险,施密特仍然对AI的积极影响抱有乐观的态度。他指出,强大的AI将使每个人都能拥有一个无所不知的助手,无论是在日常生活还是工作中。此外,人们还可以获得像爱因斯坦和达芬奇这样智慧人物的建议,这将极大地促进每个人的个人成长和创新。

本文来源: 互联网 文章作者: 马老师粉丝
    下一篇

导读:IT之家 12 月 23 日消息,据英媒《金融时报》当地时间本月 20 日报道,科技巨头博通 Broadcom 首席执行官陈福阳(Hock Tan)在接受采访时提到,其正忙于 AI 半导体业务,