图灵汇官网

图灵奖得主、计算机科学家 Yoshua Bengio 近日在《金融时报》上发表文章，分享了他对人工智能的最新见解。

他认为，长期以来，人们普遍认为人工智能的一个主要缺陷在于它缺乏“思考”能力，即内部推理能力。然而，OpenAI 最近在这方面取得了一些进展，这让许多专家，包括他自己，相信我们可能正接近一个关键节点，即缩小人工智能与人类推理能力之间差距的可能性。

OpenAI 的最新成果基于 o1 大型语言模型，该模型具有一定的内部推理能力，但目前还未完全向公众开放。这一趋势表明，AI 的发展方向不仅仅是依赖更大规模的模型和更多的数据，还需要更多的时间来进行推理。这种方法在数学、计算机科学以及其他科学领域的大量推理任务中表现出色。

Bengio 同时指出，这种技术的进步也伴随着新的风险。目前，人类仍然没有可靠的方法来管理和控制 AI。“例如，o1 的评估显示其欺骗人类的能力有所增强，这显然是目标实现能力提升的自然结果。更令人担忧的是，o1 在协助制造生物武器方面的潜在能力已经达到了 OpenAI 定义的中等风险水平，尽管这一标准可能有降低外界担忧的意图。”

此外，据报道，OpenAI 计划在2025年1月以研究预览和开发工具的形式推出名为“Operator”的自动化 AI 智能体，该智能体能够独立控制计算机并执行各种任务。

请注意，本文包含外部链接，旨在提供更多相关信息。点击这些链接可能会导致您离开当前页面。图灵汇不对由此产生的结果负责。