图灵汇官网

导读：

在技术发展与产业变迁的历史脉络中，安全防护始终与其相伴相随，大模型亦未能幸免。新科技的涌现必然伴随新的安全挑战与需求，但同时，攻击者常能先于我们发现潜在风险并实施攻击，这要求我们快速响应并作出变革。

图像说明：

图片由AI生成。

安全与技术共生

新技术与产业的发展历程中，安全防护一直是不可或缺的一环，总是先于攻击手段出现。面对大模型技术，同样遵循这一规律。新技术不仅带来了新的安全问题和需求，而且挑战在于，攻击者往往能比我们更早洞察安全风险，并据此发起攻击，迫使我们必须加速响应和策略调整。

大模型的局限与潜力

尽管大模型的应用场景仍有限，行业专家考虑到技术尚不成熟、投资回报率、缺乏明确应用方向等因素，但对黑客而言，只需一个理由，便能利用大模型作为新型攻击工具，以突破更高价值的目标防御。

网络安全的新篇章

随着ChatGPT的发布，代表AGI技术的大模型激发了全球黑客的活跃度。AGI技术不仅提升了网络攻击与犯罪的效率和覆盖范围，还增强了对编程语言的理解能力，使攻击者能够迅速发现软件漏洞。同时，利用AI算法在视频中进行人脸伪造，引发了新一轮网络诈骗活动。

安全攻防升级

亚信安全的观察揭示，攻击者的目标已从传统资产转向AI算力基础设施，尤其是GPU集群，这些高价值资源对攻击者极具吸引力。一年间，针对大模型的攻击手段迅速多样化，数量达到数十种。例如，年初一个数千台服务器的算力集群遭到入侵，被用于挖矿活动，显示了黑客对高价值资产的觊觎之心，甚至包括大模型本身。

模拟攻击与后果

亚信安全通过模拟攻击行为，展示了大模型在受到特定构造攻击样本的影响时，性能显著下降的情况。这预示着，如果核心应用高度依赖大模型驱动的AI原生应用，类似的攻击将导致大模型算力消耗激增，进而引发拒绝服务攻击，严重影响用户核心业务的运行。

未来趋势与挑战

随着AI技术的普及，家庭和个人用户也将成为新的攻击目标。若人工智能渗透率足够高，各类设备如电脑、手机、家用电器乃至汽车都将智能化，甚至每个家庭都有自己的AI助手，黑客将不会忽视这一庞大潜在市场。

AI驱动的安全防护

亚信安全认为，网络安全的未来将从人与人之间的对抗升级为AI与AI之间的对抗，AI驱动的安全防护检测技术是识别AI驱动黑客攻击的关键。同时，质疑声中，“安全大模型”概念的泛化是否只是“新瓶装旧酒”，有待进一步审视。

亚信安全的战略布局

亚信安全通过构建底层通用框架、MaaS服务平台及智能体框架，为大模型技术在安全领域的应用打下坚实基础。其自主研发的“信立方”大模型，分为算力调度平台、智能调度、MaaS服务层、网络安全Agent架构和安全智能体应用等多个层次，旨在全面革新网络安全产品的设计与功能。

AI安全的系统视角

中国工程院院士张亚勤指出，大模型的到来标志着全新生态的构建，它将成为新的操作系统，其生态规模远超PC互联网与移动互联网。因此，构建AI安全生态系统需从全局视角出发，共建生态体系，而非仅仅关注大模型安全。

合作与成果

亚信安全与多家机构合作，共同推进网络勒索响应与治理中心的建设，形成常态化的网络勒索安全运营机制。同时，与四川能投、西云算力等企业合作，实现大模型安全、隐私计算、算网调度和全栈云安全的技术突破，促进东西部算力与数据资源的高效调度与流通。此外，亚信安全还与鸿蒙生态展开合作，提升终端安全能力，为用户提供更安全、可靠的环境。

结语

在技术、政策、法规和社会共识的共同推动下，构建大模型安全生态正成为长期目标。各领域间的协作与创新将为大模型安全提供坚实的基础，确保技术进步的同时，维护网络安全与数据安全。