图灵汇官网

近期有媒体报道，一些研究人员借助一种创新的方法，成功突破了几款知名的大语言模型（LLM）。这些模型包括 ChatGPT-4o 和 DeepSeek 系列版本。研究团队采用了一种被称为“沉浸式世界”的全新攻击手段，这种技术听起来有些不可思议。

这项技术的核心在于利用叙述性的设计来规避大语言模型的安全保护机制。研究者构建了一个非常详细的虚构场景，让某些操作看起来合情合理，进而生成了一个功能完善的 Chrome 浏览器信息窃取工具。

近年来，信息窃取类的恶意软件发展迅速，已经成为网络犯罪的重要工具。这项研究揭示了即使没有专业技术背景的人，也可以相对容易地编写出这类恶意程序。

报告显示，大语言模型正在改变网络安全的现状。随着人工智能技术的应用，网络威胁变得更加复杂且频繁发生，同时也降低了攻击者的入门门槛。

尽管这些聊天机器人设置了多重安全防护，但它们的设计初衷是为了尽可能满足用户的请求。研究者正是利用了这一点，绕过了原有的限制，让人工智能系统能够快速生成并传播网络钓鱼内容。

Cato Networks 的一位威胁情报专家提到，“零知识威胁”行为者给企业的信息安全带来了新的挑战。由于生成式人工智能工具的普及，制造恶意软件变得前所未有的简便。

此外，信息窃取程序在获取企业敏感信息方面扮演着重要角色。“沉浸式世界”这项新技术展示了如何高效且危险地创建此类程序。

需要注意的是，本文中的外部链接仅用于提供更多信息，并不构成推荐或担保。所有内容均由 图灵汇发布，以上声明适用于整篇文章。