图灵汇官网

导读

生成式AI原本被视为提升效率的利器，如今却成为了企业和网友的一大隐患。近日，安全公司Check Point发布了一份报告，提到一种名为“FunkSec”的勒索病毒自2024年底以来，已经袭击了85家不同企业。研究人员发现，这款病毒基于Rust编程语言编写，语法注释清晰流畅，但其攻击模式相对陈旧落后。他们推测，该病毒很可能由AI生成。

进一步调查发现，有黑客在暗网论坛上出售“FunkSec”病毒。这表明，黑客可以通过生成式AI大规模制造病毒来牟利。科技进步带来便利的同时，也伴随着新的安全隐患。

生成式AI引发的新安全挑战

自从OpenAI推出ChatGPT以来，利用生成式AI开发病毒或其他有害内容的现象变得愈发普遍。安全公司Vipre的数据揭示，2023年第二季度，商务邮件诈骗攻击比2022年增加了20%，其中近半数是由AI生成的。

企业安全威胁研究团队Imperva Threat Research在报告中指出，2024年4月至9月期间，零售网站每天平均遭受569884次攻击。AI工具如ChatGPT、Claude和Gemini经常被用于实施DDoS攻击和业务逻辑滥用等行为。

Gartner公司表示，AI在网络安全攻击中的应用已连续三个季度成为企业面临的主要风险。在286名受访的高级风险审计人员中，80%的人对AI可能引发的网络攻击表达了担忧。

AI降低黑客门槛

“FunkSec”病毒背后的黑客技术能力有限，甚至在论坛上询问如何成为黑客。这些黑客所谓的成功，实际上是依赖于其他黑客的行动，如果没有生成式AI，他们很难开发出如此简单的病毒。

2024年10月，日本一名男子因使用生成式AI制造勒索病毒被判刑三年，缓刑四年。这在日本尚属首例。该男子在法庭上承认，自己不懂任何IT知识，如果没有生成式AI的帮助，他根本无法制造病毒。

此外，日本IT解决方案提供商三井物产Secure Directions的技术员吉川孝志指出，虽然生成式AI可以设置限制，防止生成有害内容，但仍有规避限制的方法。市场上还出现了专门用于生成恶意代码的大模型，如WormGPT和PoisonGPT。

AI对抗AI攻击

为了抵御由生成式AI制造的病毒攻击，我们需要了解病毒的主要攻击途径。惠普公司在《威胁洞察》报告中指出，最常见的攻击方式是网络钓鱼邮件或恶意广告。例如，我们在搜索某些工具时，会被诱导进入虚假网站，下载包含病毒的文件。有些病毒甚至隐藏在SVG图像中。

2024年第二季度，12%的带有害信息的邮件成功绕过了检测系统，其中61%来自附件，18%来自浏览器下载，21%来自移动存储设备，而ZIP文件占恶意文件总量的39%。

曾经有不少网友认为，只要不安装杀毒软件，不浏览非法网站，就能避免病毒感染。但在恶意程序激增、假网站泛滥的今天，用户中招的概率大大增加。对抗生成式AI批量制造病毒的关键，在于合理利用AI。

AI与网络安全

将AI融入杀毒软件、浏览器和搜索引擎，可以帮助个人用户构建更坚固的防护墙。杀毒软件加入AI功能后，可以智能化地扫描和分析文件，结合生成式AI的特点，提高病毒的识别能力，从而拦截含有病毒的文件。

浏览器也需要与AI结合，帮助用户分析网址的风险，并对网站内的各种文件进行检测，减少用户下载病毒文件的可能性。搜索引擎同样需要利用AI技术，过滤掉虚假网站。

对企业而言，由于它们面临更大的风险，也是不法分子的主要目标，因此不仅要加强安全软件的能力，利用AI识别和抵御生成式AI制造的病毒，还需实施网络隔离和访问控制，必要时对备份数据和机密数据进行物理隔离。同时，企业应定期对员工进行培训，防止因误操作引入病毒。

自1982年第一个计算机病毒Elk Cloner问世以来，互联网公司与黑客之间的较量从未停歇。近年来，勒索病毒的肆虐更是给无数用户和企业带来了灾难。

利用AI制造病毒的挑战

利用生成式AI制造病毒不仅消耗大量资源，还可能拖累企业的正常发展。生成式AI降低了制造病毒的门槛，使得普通人也能生成病毒，未来病毒和虚假网站的数量可能会呈指数级增长，这对整个互联网行业的发展不利。

普通网民可以通过AI规避部分潜在风险，例如查询信息时可以直接向AI大模型提问，并通过AI提供的链接进入相应网址。下载软件时，也可以让AI提供官方网站链接，这样可以提高内容的安全性。

尽管国内互联网的安全程度较高，但360、腾讯电脑管家等主流杀毒软件仍能帮助用户规避一定风险。企业的情况更为复杂，但网络保护措施也更为健全。考虑到勒索病毒肆虐时期很多企业中招，这些企业需要招募更多人才或与网络安全公司深化合作，以应对AI时代的病毒攻击。

然而，仅依靠AI抵御病毒攻击效果有限。唯有出台更严格、更详细的规定，限制和打击利用生成式AI制造病毒的行为，才能彻底消除黑客群体。

相关部门正在不遗余力地打击网络犯罪。公安部网安局公布的数据表明，2024年打击网络黑客犯罪专项工作取得了显著成效，侦破案件1600余起，抓获犯罪嫌疑人4900余名。在相关部门的努力下，国内黑客的生存空间将越来越小，上网安全也将更有保障。