图灵汇官网

随着人工智能与机器学习技术（AI/ML）及大型语言模型（LLM）的快速发展，软件开发领域正经历前所未有的革新。一项面向全球1200名技术专家的调查揭示了关键趋势：90%以上的高级管理层承认其团队在软件项目中广泛采用机器学习模型。同时，88%的高管指出，AI/ML工具已集成至他们的安全扫描与漏洞修复流程中。

然而，技术的广泛应用亦暗藏风险，尤其是在资源受限环境下，安全问题尤为凸显。在网络安全领域，任何漏洞都可能成为黑客的突破口。若AI/ML模型遭恶意代码污染，不仅会威胁开源软件（OSS）的安全，也可能导致企业内部网络遭受入侵，造成重大经济损失与声誉损失。

生成式AI在代码编写中的应用显著提升了开发效率，但开发者在快速迭代的环境中往往难以对生成代码进行全面安全审查，由此产生的隐患不容忽视。因此，从代码生成伊始即需实施严格的安全审查，深入至二进制层面，以防范软件供应链安全风险。

面对不断演进的安全威胁，网络犯罪分子持续探寻AI/ML技术的漏洞，要求开发者采取主动策略，在工作流程的每个环节强化安全措施，自项目启动阶段即建立安全防线。

除开发团队外，全公司范围内的参与至关重要。通过持续的安全教育与培训，提升全员安全意识，确保每人均能成为企业安全防线的一环。随着AI与ML技术的进步，全员掌握最新安全动态，企业将从中获益。

对于开发者而言，将安全性融入软件开发早期是新挑战。以往，安全问题常在后期考虑，二进制层安全往往被忽视。然而，黑客正是利用此空隙，试图武器化ML模型，对抗企业安全策略。开发者需接受必要培训，确保在开发初期嵌入安全性。

多数专业人士已意识到，其企业正利用AI/ML进行安全扫描与漏洞修复。这意味着传统开发者角色不再适应复杂的安全挑战。开发者需成为安全专家，自开发初期构建安全解决方案，提升工作效率，保障企业安全性。

企业需加大开发者培训投资，提供资源支持，助其掌握最新安全威胁与应对策略。加强开发团队与安全团队合作，确保安全措施无缝融入开发流程。跨部门合作有助于提升AI/ML模型安全性，构建坚固防御体系。

"左移"策略提倡在软件开发生命周期早期集成安全措施，预防未来漏洞，确保开发全程安全。在AI/ML开发中尤为重要，因代码与模型可能源自外部，难以完全信任。通过"左移"策略，企业可在早期持续部署安全措施，增强客户与员工信任，降低风险，保护企业免受复杂网络威胁。

JFrog Ltd致力于打造无缝连接开发者与设备的软件交付世界。其软件供应链平台作为统一记录系统，帮助企业高效、安全地构建、管理与分发软件，确保软件可用、可追溯且防篡改。平台集成安全功能，助力发现与抵御威胁、漏洞。JFrog的混合、通用、多云平台兼容主流云服务提供商的自托管与SaaS服务。全球数百万用户与7200多家客户，包括大部分财富100强企业，依赖JFrog解决方案推动数字化转型。