静态 JSON 策略层：对抗 AI Agent 提示注入的新思路

间接提示注入与安全边界

我很希望得到技术社区关于构建生产级 Agent 工作流时的作用域强制执行和影响边界的反馈。

间接提示注入允许攻击者对自主 AI Agent 进行上下文劫持。由于被劫持的工具调用在 API 和防火墙层面看起来完全合法，因此非确定性评估（使用一个 LLM 监控另一个 LLM）无法 enforced 严格的安全边界。

为解决这一漏洞，我发表了一篇论文，建立了一种确定性 Intent Architecture 模型。通过在 Agent 推理和工具执行之间放置一个静态 JSON policy schema 层，所提议的动作在执行前会针对明确的策略边界进行验证。

实时沙箱与代码仓库

• 交互式 Colab 沙箱：Open in Google Colab
• GitHub 仓库：GitHub 上 ai-agent-intent-architecture
• 完整研究论文：在 HackerNoon 阅读全文

核心实现概述

该架构在执行前拦截所提议的 Agent 动作，并针对静态 policy_schema.json 文件进行验证：

import json
import jsonschema

# Load static policy schema
with open("policy_schema.json", "r") as f:
    policy_schema = json.load(f)

def validate_agent_intent(intent_payload):
    """Intercepts a proposed agent action and validates it against static policy schema rules."""
    try:
        jsonschema.validate(instance=intent_payload, schema=policy_schema)
        return True, "ACTION ALLOWED: Intent satisfies static policy schema."
    except jsonschema.exceptions.ValidationError as err:
        return False, f"ACTION BLOCKED: Policy violation -> {err.message}"