9.0
重磅
AI SCORE
技术实践2026-08-02 21:36
AI 渗透测试工具的数据泄露陷阱与本地沙箱方案
dev.to · AI#安全#AI Agent#隐私
Editor brief · 编辑速览
警示大多数云端 AI pentester 在执行测试时向第三方 LLM 发送客户敏感数据(IP、凭证、响应体);提出本地推理(Ollama/llama.cpp)和敏感值令牌化两层隔离方案。
声明:我开发了 Darkmoon,这是做本地化处理的工具之一。但无论你选择哪个工具,这个问题都是真实存在的。
大多数自主 AI pentester 都调用托管的云 LLM。为了完成工作,它们将你的目标数据(IP、主机名、请求和响应体,有时还有凭证和源代码)输入到该模型。这意味着你客户的数据在渗透测试进行中就离开了你的控制,流向第三方。对于受监管的环境,这是一个等待发生的数据泄露。对于渗透测试公司来说,这是合同违约。
数据处理协议只是纸上的文件。Air-gapped(隔离)是物理层面的保障。如果字节从不离开机器,就没有什么可以被泄露、被传唤调查或误配置的。
本地推理:在你自己的硬件上运行 Ollama 或 llama.cpp。模型在数据所在的地方运行。
隐私网关:即使某个步骤必须调用远程服务,也要先用确定性占位符对敏感值进行令牌化,然后在本地恢复。远程端永远看不到真实值。
完全自托管:流程中没有供应商云服务。
是的:在本地模型上,以黑盒方式在 28 分钟内发现了 OWASP Juice Shop 上的 57 个真实漏洞,可重现:https://github.com/ASCIT31/Darkmoon-Benchmarks
Darkmoon 是开源的,就是这样构建的:https://github.com/ASCIT31/Dark-Moon。如果你为客户进行渗透测试,"模型在哪里运行"应该在你的工具清单的首位。
如需进一步操作,你可以考虑屏蔽此人和/或举报滥用行为。