图灵汇官网

近期，中央网信办主任庄荣文在与新华社的访谈中表示，未来将注重平衡发展与安全，确保人工智能领域的技术创新与产业推进与安全保障同步发展。

自去年起，一股以人工智能为核心的技术浪潮席卷全球，生成式人工智能大模型正深刻影响着生产与生活方式。当前，我国已登记并提供服务的大模型数量超过190个，累计用户规模突破6亿人。

高质量发展与高水平安全相辅相成。2023年，我国率先通过立法，由国家网信办及相关部门共同颁布了《生成式人工智能服务管理暂行办法》，为该领域健康发展提供了法律保障。

国际层面，各国亦迅速响应，加强人工智能治理。2023年，美国与欧洲达成了旨在促进公共利益的行政协议，深化在气候变化等五大领域的人工智能合作。同年，七国集团制定了《人工智能国际指导原则》和《人工智能开发者自愿行为准则》。2024年4月，美欧双方发布联合声明，强调通过合作解决全球性挑战，并宣布了人工智能安全科学伙伴关系。同年8月1日，欧盟《人工智能法案》正式实施。

围绕人工智能安全的讨论日益升温，尤其在人工智能加速融入日常生活的背景下，这一议题成为社会关注焦点。以OpenAI为代表，其对安全问题的态度常引发媒体热议，包括指控其可能不当限制员工披露AI安全风险，以及内部安全团队的动荡。

面对人工智能的发展与安全议题，中国工程院院士吴世忠在2024年西湖论剑·数字安全大会上提出，人工智能时代下的安全问题具有前所未有的复杂性，它既涵盖了信息安全（Security），也包括了系统稳定性和可靠性（Safety），以及技术伦理（Ethical Security）。这三个维度相互交织，构成了全新的安全框架，对个人隐私保护、社会稳定、国家发展和国际合作等构成新挑战。

安恒信息高级副总裁兼安恒信息研究院院长王欣指出，在人工智能时代，大模型技术同时扮演着“矛”与“盾”的角色。一方面，AI与大模型技术打破了原有的安全边界，促使安全需求与应用场景发生变化；另一方面，它们也推动了安全产品和服务的创新，助力网络安全防护体系的升级。生成式AI显著提升了风险识别效率，缓解了网络人才短缺问题，增强了威胁分析精度、安全运营效率与防护智能化水平。

作为行业领先的安全企业，安恒信息始终坚持“让AI更安全、让安全更智能”的理念，认为“以AI对AI，以AI管AI”是实现人工智能安全治理的关键路径。2023年8月28日，安恒信息推出了业内首个“恒脑”安全垂域大模型，并在杭州亚运会网络安保中发挥了重要作用。此后，公司于2024年4月对安全大模型进行了全面升级，以“恒脑2.0”驱动全系列产品能力的提升。

除了将AI应用于安全产品与服务之外，安恒信息还从网络安全、数据安全和内容安全三个维度，构建了一套全面的解决方案，为客户提供从研发到部署的全生命周期安全防护。公司自主研发的AI大模型风险评估系统，结合先进内容检测引擎，帮助企业深入评估AI生成内容的合规性，防范品牌风险与法律风险，同时识别AI基础设施的网络安全风险，确保数据完整性和业务连续性。

在针对大模型训练与推理场景，安恒信息的AiLand安全岛隐私计算平台实现了技术与产品的深度融合，支持多数据集的融合建设与持续训练、推理。今年5月，安恒信息成功通过中国信息通信研究院组织的首批“面向大模型的增强型可信执行环境基础能力专项测试”，成为首家完成测试的企业。

展望未来，安恒信息将持续推动AI驱动的安全产品与服务的迭代升级，并推出更多针对大模型生命周期安全的解决方案，以高水平安全支撑人工智能的高质量发展。