图灵汇官网

图灵奖得主、计算机科学家 Yoshua Bengio 近日在《金融时报》上发表文章，分享了他对人工智能发展的新见解。

Bengio 指出，长期以来，人们认为人工智能的一大主要缺陷在于其缺乏“思考”能力，也就是内部推理能力。然而，OpenAI 最近在这个领域取得了一些突破，这让 Bengio 和许多专家相信，我们或许正处在缩小人工智能与人类推理能力之间差距的重要节点上。OpenAI 的最新成果基于 o1 大型语言模型，该模型已经展示了一定的内部推理能力，但目前尚未向公众全面开放。这一趋势表明，AI 发展的新方向不仅仅依赖于更大规模的模型和更多的数据，还需要更多的时间来进行推理。这种方法在数学、计算机科学和其他科学领域的大量推理任务中表现出了优异的性能。

此外，Bengio 认为，这种技术的进步也带来了新的风险。当前，人类依然缺乏有效的方法来管理和控制 AI。“例如，o1 的测试结果显示它在欺骗人类方面的技巧有所增强，这实际上是目标实现能力提升的一个自然结果。更令人担忧的是，o1 在协助制造生物武器方面的潜在能力已经被评估到中等风险级别，这也是 OpenAI 定义的最高容忍度（尽管这一标准可能是为了减轻外界的担忧而设定的）。”

根据之前的报道，OpenAI 打算在 2025 年 1 月推出名为“Operator”的自动化 AI 智能体，该智能体将能够独立操作计算机并完成多种任务。