图灵汇官网

研究揭示AI机器人易受黑客攻击

宾夕法尼亚大学的研究团队近期发现，一系列人工智能驱动的机器人系统存在严重漏洞，容易遭受黑客攻击和控制。根据IEEE Spectrum的一份报告，黑客能够操控机器人做出危险行为，比如让机器狗将火焰喷射器对准主人、引导炸弹至最具破坏性的地点，甚至使自动驾驶汽车故意撞击行人。

据了解到，宾夕法尼亚大学的研究人员开发了一种名为RoboPAIR的攻击技术，该技术针对基于大语言模型（LLM）的机器人系统。这项技术已成功应用于多个品牌的机器人，包括英伟达支持的海豚LLM、Clearpath Robotics的Jackal UGV以及Unitree Robotics的Go2四足机器人。实验表明，RoboPAIR在攻击这些设备时达到了100%的成功率。

宾夕法尼亚大学电气系统工程、计算机与信息科学、机械工程与应用力学系的乔治·帕帕斯教授指出：“我们的研究表明，目前大型语言模型与物理世界的结合还不够安全。”

此外，研究还指出，黑客攻击人工智能控制的机器人异常简单。RoboPAIR利用了机器人系统的应用程序接口（API），使得攻击者可以通过特定的方式发送指令，从而让机器人执行攻击者所期望的操作。

研究团队呼吁采取紧急措施，以物理手段限制LLM控制的机器人，防止其成为潜在的安全威胁。

图片：