AI发展热潮下需要哪些冷思考?中国科学院院士姚期智这样回答

图灵汇官网

中国的人工智能领域在今年迎来了一波发展热潮。无论是DeepSeek大模型、全球首个通用Agent Manus,还是能完成多种任务的人形机器人,这些成果逐渐走进了普通人的生活中。“具身智能”这一概念还首次被写入了中国政府工作报告。面对当前AI快速发展的趋势,我们应该如何冷静看待?

图灵奖得主、2024基础科学终身成就奖得主、中国科学院院士姚期智指出,未来我们需要加强对AI的理论探索,同时重视其在重要应用场景中的安全问题。他表示,当前AI的研究更像是一种实验科学,尽管已经取得不少成绩,但人们对它的基本原理仍缺乏深刻理解。因此,有必要进一步深化对AI原理和标准的认识,从而更好地掌控AI,并改进相关算法。

姚期智提到,在AI发展的进程中,安全问题是不可忽视的重点。比如,AI产生的幻觉可能给其在关键领域的应用带来重大隐患。要解决这些问题,首先要弄清楚这类安全隐患产生的原因。有些人认为AI的发展与保障其安全性存在冲突,需要在两者间找到平衡点,但姚期智认为,这两方面其实是相辅相成的。

他还提到,如果能够开发出最安全的AI技术,就能在市场上占据优势地位。确保AI的安全性不仅能预防潜在的滥用行为,还能促进商业成功,同时推动基础科学的进步。姚期智特别提到,如今全球从事生成式人工智能的主要力量来自年轻一代,如“90后”“95后”乃至“00后”。尽管AI作为一门学科起步较早,已有几十年历史,但随着大模型的兴起,它变得更容易入手。许多年轻人在大学期间便能接触到AI领域的前沿动态。他称赞了DeepSeek团队中的上百位年轻人,称他们的努力为中国AI学科的发展奠定了坚实基础。

本文来源: 互联网 文章作者: 赵龙
    下一篇

导读:CASIA等 投稿量子位 | 公众号 QbitAI万字长文,对多模态LLM中对齐算法进行全面系统性回顾!从现有对齐算法涵盖的应用场景,到构建对齐数据集的核心因素,再到用于评估对齐算法的基准,还有