EXPERIMENT IV · AI SECURITY

从文本到行动

一段外部文本，要经过几步才能让 Agent 执行一次危险操作？

待开始提示词注入工具权限Agent 安全

为什么值得做

提示注入真正的风险不在模型“说错话”，而在它读到外部内容后去调用了工具。需要把这条路径拆开，看每一步能在哪里被拦下。

HYPOTHESIS

大多数间接注入要经过“读取 → 采信 → 规划 → 调用”四步；在“调用”一步做最小权限，比在“读取”一步做检测拦截得更多。

MINIMAL SETUP

FALSIFIED IF

只开启输入检测的拦截率不低于只开启最小权限。

WILL PUBLISH

样本集、执行轨迹、拦截点统计，以及绕过成功的样本。

还没有记录。实验开始后，每一次运行、失败和修正都会记在实验室里。