CrabTrap：LLM Agent生产部署的安全防护层

Brex开源了CrabTrap，一个HTTP代理工具，采用LLM-as-judge模式来拦截和防护不安全的Agent行为。这解决了Agent技术上线时的实际安全痛点——Agent可能执行意外操作、调用错误的API或泄露敏感数据。CrabTrap的方案是在代理层使用另一个LLM来评判上游Agent的请求是否符合安全策略，相当于为Agent加装了一层"安全卫士"。这是Agent可靠性工程的重要进展，特别对金融、医疗等对安全要求高的行业有价值。

核心要点

• 解决Agent生产部署的安全隐患，减少误操作风险
• LLM-as-judge的成熟实践案例，可直接学习借鉴
• 开源项目降低了小团队Agent安全防护的技术门槛

对程序员的意义 如果正在构建需要上线部署的Agent应用，CrabTrap提供了现成的安全框架。可以评估集成这类防护层来确保Agent行为的可预测性和可控性。