一个名为 INTRUSIVE.AI 的开源项目在 Hacker News 的 Show HN 板块发布。项目作者表示,该平台旨在让智能体开发者依据 OWASP 针对智能体应用的 Top 10 风险清单评估自己的智能体,并在非生产环境中进行更全面的测试。

发生了什么

作者在自述中提到,在评估智能体的过程中,间接提示注入的测试尤其困难,这与其架构特性有关。为解决这一问题,他开发了 Interceptor Sandbox。该沙箱让智能体运行在模拟环境中,智能体可能依赖的 HTTP、MCP、Postgres/pgvector 等服务可以通过注入 API 被“拦截”,从而向其中注入恶意负载。

另一个组件是 Attack Harness。作者称,现有开源 AI 测试与攻击模拟方案在能力覆盖面上不能满足他的需求,因此构建了这一攻击框架。但他同时指出,能力足够的攻击框架在被赋予恶意目标后不能被信任,所以需要将其置于沙箱中运行,这促成了 Operator Sandbox 的出现。

作者表示,尚未看到其他人讨论 Operator 所采用的沙箱方法,认为这一方式具有一定新颖性。完整套件的文档发布在 docs.intrusive.ai。项目目前仍处于 alpha 阶段,作者提醒实际效果可能因使用情况而异,并建议通过各代码仓库的 GitHub Issues 提供反馈。

为什么重要

智能体通常需要调用外部服务、工具和数据源,攻击面随之扩大,间接提示注入等风险也更难在开发阶段复现和验证。INTRUSIVE.AI 试图把攻击模拟与隔离环境结合起来,为智能体红队测试提供可操作的路径。

值得注意的是,该项目不仅对被测智能体进行沙箱化,也强调对攻击工具本身进行隔离。这种思路针对的是攻击框架一旦获得恶意目标后可能带来的失控风险,对智能体安全测试工具的设计具有参考意义。

背景补充

OWASP 针对智能体应用提出的 Top 10 风险清单,是该项目评估能力的参照框架。作者将平台定位为开源工具,并选择在 alpha 阶段公开,以收集开发者反馈。

来源:Show HN: Intrusive.ai – open-source AI attack simulation(发布于 2026-11-18)