图灵汇官网

12月21日，第七届云安全联盟大中华区大会在深圳顺利举行，会议主题为“云融未来，安全内在”。百度副总裁陈洋在大会上发表了关于“安全大模型”与“大模型安全”的主题演讲。他指出，大模型不仅推动了产业升级和经济增长，也给网络安全行业带来了新的机遇和挑战。借助大模型，智能人机协作可以重塑整个安全业务流程，使其进化成一种高效的“生产力工具”。

人工智能是推动科技革命和产业升级的关键力量，而大模型的出现进一步拓宽了人工智能的应用范围。自今年3月百度发布知识增强型大语言模型文心一言以来，该模型已经升级至文心大模型4.0版，在理解和生成等方面的能力有了显著提升。陈洋分享了文心大模型在安全领域的应用，如安全运营、内容审核、APP隐私合规检测和业务风控等方面的实践案例，展示了如何通过AI技术大幅提升安全效率。

陈洋还强调了提升行业AI原生安全应用研发效率的重要性。依托百度领先的AI大模型平台，百度安全开发了AI安全底座，利用强化后的安全知识和技能，通过低代码方式实现了人机协同安全工作流，使各类安全应用得以AI原生化重构。此外，大模型自身的安全性、可信性和可控性变得尤为重要。网络与系统安全、模型算法安全、数据安全和隐私保护以及内容安全在大模型的整个生命周期中相互关联，体系安全与内生安全将是长期存在的课题。

作为人工智能行业的领导者，百度十分重视大模型安全风险的防范。基于自身在大模型安全方面的经验，百度安全从全生命周期的角度出发，制定了一套全面的安全策略，涵盖了大模型训练、优化、推理、部署和业务运营等关键环节。这些策略包括数据安全与隐私保护、模型保护、内容安全和业务运营风控等方面的产品和服务。此外，百度还建立了以攻防为主的AIGC内容安全评测能力，定期对大模型进行安全评估，帮助企业构建稳定可靠的大模型服务。

在大模型运营方面，百度安全构建了一系列安全服务，包括红线知识库、红线大模型、提示词审核与重写、多模态内容审核和内容安全评估等。对于涉及违法行为、不良价值观等敏感问题，百度安全提供了“红线知识库和红线大模型”，用以提供安全回复内容并引导用户走向正面方向。针对提示词注入攻击，百度安全可以通过修改提示词来确保大模型输出安全内容。

作为云安全联盟CSA的会员单位，百度一直致力于通过更安全的AI技术推动产业发展，积极参与智能云计算的前沿技术探索与实践。在本次会议上，陈洋代表北京人工智能产业联盟人工智能安全专委会与CSA云安全联盟正式签署战略合作协议。未来，双方将在人工智能领域展开联合研究，共同推动前沿技术和应用的发展。

面对当前“大模型+安全”所带来的新形势、新机遇和新挑战，百度安全将继续探索人工智能技术在网络安全领域的创新应用，并与其他各方密切合作，共同构建大模型安全防线，挖掘大模型在各行各业中的更多可能性。