图灵汇官网

百度大模型安全策略：前瞻视野与技术驱动

6月28日，WAVE SUMMIT深度学习开发者大会 2024 聚焦“创新实践、引领产业” 在北京举行。

• 百度大模型内容安全Lite版 首次发布，专为低算力与超低算力终端设计，提供一站式解决方案，确保在离线环境中的稳定运行与持续优化。

AI时代双面角色：生产力与安全

当前，“人工智能+”正在成为推动新生产力的重要力量。大模型不仅加速了产业创新与经济增长，同时也带来了网络安全领域的全新挑战与机遇。百度安全基于文心大模型的实践经验，在2023年推出了以AI安全为核心的大模型安全策略，旨在为大模型提供全生命周期的安全保障。

• 全方位安全防护：覆盖大模型从训练、微调、推理、部署到运营的全过程，提供包括数据安全、隐私保护、模型防御、AIGC内容合规与业务风险管理在内的全面安全产品与服务。
• AIGC内容安全评估：采取主动防御策略，定期对大模型进行安全审计，确保其在各种应用场景下的安全性。

2024展望：多模态与终端算力的崭新阶段

随着多模态大模型能力的增强与终端算力的提升，大模型的应用范围正迅速扩展至智能手机、个人电脑、可穿戴设备、联网车辆、机器人等多个领域。预计到2024年，AI PC的市场份额将显著增长，有望达到2%，并在2028年进一步提升至65%。

• 终端优势凸显：相较于云上大模型，终端版本拥有更低的成本、更快的响应速度以及更强的用户数据隐私保护能力，但面临着特定环境的局限性。
• 内容安全Lite版：针对低算力与超低算力终端量身定制，旨在满足生成内容的合规性、安全性和可控性的需求。

冯景辉副总的洞见与发布

• 终端安全的重要性：强调终端安全对于大模型不可或缺，通过整合终端安全措施与云端安全检查，确保用户隐私与数据安全，同时降低终端成本与推广难度。
• 内容安全Lite版 发布：适用于AI PC、手机、平板、边缘计算等多场景，提供离线运行的内容安全审查与干预服务，兼顾低算力需求与云端检测效能。

内容安全Lite版的独特特点

• 低硬件需求：在180 Mhz主频CPU及1024MB内存环境下高效运作，释放宝贵的GPU资源。
• 全离线操作：实现快速响应，有效降低隐私泄露风险，确保用户数据安全。
• 跨平台兼容：支持X86、ARM架构，兼容Linux、Android操作系统，支持国产化。
• 语义识别：无需依赖敏感词库，减少安全风险。
• 灵活干预：提供高度定制化的回应干预机制，提升风险处理能力。

百度安全策略的深化

• 云端全功能安全产品集合：为云上大模型提供全面、细致的安全解决方案，助力客户与合作伙伴应对大模型内容合规、上线备案、内部安全与日常运营挑战。

构建安全生态

百度致力于构建大模型安全风险防范体系与生态系统，通过技术创新与合作，共同建立大模型安全防线，推进相关标准的制定与完善，促进人工智能安全保障体系的构建，探索大模型安全应用的潜力，引领智能时代的创新发展。