范式转变：AI 编程从生成代码到真正做事

多年来，AI 的主要衡量标准一直是："AI 编程能力有多强？"现在真正的问题是："如果我们给 AI 权限让它真正去'做事情'，会发生什么？"

现代 AI 代理已经远远超越了文本生成和代码片段补全。它们现在作为软件开发生命周期中的积极参与者来运作。

如今 AI 代理能做什么

代码库导航：读取、解析并理解整个代码仓库。

环境操控：创建、修改和删除文件。

执行与部署：运行终端命令、打开 Pull Request，以及部署应用程序。

系统集成：访问 API、操作数据库，并直接与云基础设施交互。

缺失的那一层：用于控制的基础设施

一个更聪明的模型已经不够了。要让代理安全地进入生产环境，我们需要围绕它们构建一套健壮的基础设施层：

🔐 权限：对操作和工具的细粒度访问控制。

🛡️ 沙盒化：隔离的执行环境，用于 contain 意外行为。

🪪 身份与凭证：安全地处理密钥和服务令牌。

📋 策略执行：防止未授权或破坏性操作的防护栏。

👀 可观测性：实时了解代理正在做什么以及为什么这么做。

🧪 评估：持续测试代理的可靠性和输出。

🚨 审计日志与熔断开关：完整的可追溯性，以及立即停止代理的能力。

行业信号 & AI 工程的演进

NVIDIA（构建代理安全基础设施）和 OpenAI（推进编程、计算机使用和多代理能力）等科技领袖近期的动作，标志着行业大规模转向。

AI 工程正在正式成为系统工程的子领域。

架构转型

昨天：LLM -> Prompt -> Response

今天：Model -> Agent -> Tools -> Runtime -> Memory -> Permissions -> Evaluation -> Production

代理可以是自主的，但它们的环境不应该是。

随着代理变得越来越强大，目标不是限制它们的智能，而是约束它们的活动范围。下一代开发者将 heavily 专注于构建安全、可观测且可控的环境，让自主代理能够在不危及更大系统的前提下蓬勃发展。

你会给 AI 代理直接访问你生产环境的权限吗？