资讯

想象一下,你家的智能机器人管家,不仅能听懂“把苹果放进冰箱”,也能执行“用打火机点燃房间”这样的指令。 即便是GPT-4o、Grok这样的顶级大模型,一旦被“越狱”(Jailbreak),也会“教唆”机器人做出危险行为。 为此,他们提出了全球首个针对具身智能体安全性的综合性评测基准——AGENTSAFE,以填补具身智能体在对抗性安全评测领域的空白。 这项开创性研究,荣获ICML 2025多智能体系 ...