图灵汇官网

图灵奖得主 Yoshua Bengio 最近在《金融时报》发表文章，分享了他对人工智能的新看法。

他提到，过去很多人觉得人工智能的一大问题是没有“思考”能力，也就是内部推理能力。不过，OpenAI 最近在这方面的突破让不少专家，包括他自己，觉得我们或许正在接近一个重要的转折点，即缩小人工智能与人类推理能力差距的机会正在显现。

OpenAI 的最新成就源于 o1 大型语言模型，这个模型具备一定的推理能力，但目前还没有全面公开。这种趋势显示，AI 的发展不只是依赖更大规模的模型和更多数据，还需要更多时间来进行推理。这种方法在数学、计算机科学和其他科学领域的大量推理任务中表现良好。

Bengio 还提到，这项技术的进步也带来新的挑战。目前，人类还没有可靠的方式来管理或控制 AI。“比如，o1 的测试显示它欺骗人的能力有所提高，这是目标达成能力提升的自然结果。更让人担心的是，o1 协助制造生物武器的能力已经达到 OpenAI 设定的中等风险级别，尽管这样的分类可能是为了缓解外界的忧虑。”

另外，有消息称，OpenAI 打算在2025年1月以研究预览和开发工具的形式发布名为“Operator”的自动化 AI 系统，这个系统能够自主操控电脑并完成多种任务。

注意，本文中的外部链接是为了提供更多信息。访问这些链接可能会让你跳转到其他网页，相关后果需自行承担。