用整洁架构为 .NET 业务隔离生成式 AI
文章用 .NET 和 C# 讲解如何把模型调用放在清晰的架构边界之外,避免模型接口和不稳定输出直接影响核心业务。文中讨论了供应商接口变更、无效 JSON、离线单元测试及替换成本地 ONNX 模型等场景。
AI 深度解读
同一段文本交给 AI 模型两次,可能得到不同的分类。如果分类结果会触发工单升级,模型输出就得先过业务规则这一关。原文用一个 .NET 文本分类服务演示了怎么做:应用层定义推理接口和放行条件,基础设施层负责接模型、解析输出。
前端和全栈开发者可以顺着这个例子看清三件事:模型 SDK 应该放在哪,什么时候该拒绝自动决策,以及换模型时哪些行为需要重新验证。文中的 ONNX 适配器只返回模拟结果,能说明代码怎么分层,实际分类效果和性能仍待验证。
模型调用应该放在哪一层?
把模型 API 调用写进 HTTP 控制器很容易,麻烦出在后面:供应商改接口,控制器得跟着改;模型返回格式错误的 JSON,业务流程得知道怎么收场;单元测试想覆盖异常分支,还可能要调用收费 API。原文用 Clean Architecture 把这些变化集中到适配器里。依赖朝业务核心指向,具体用哪个 SDK 由系统组装时决定。
在作者的 C4 Container 图里,前端通过 JSON 请求 REST API,API 再调用应用层用例。gRPC 和 RabbitMQ Worker 也能充当入口。应用层编排流程并定义推理端口,领域层用纯 C# 表达业务规则和数据。基础设施实现端口,负责接 OpenAI API、ONNX Runtime,也承担 SQL Server 或 Redis 的持久化与缓存工作。
下面的端口把文本分类约定收进一个接口,调用方只需要提供文本,接收分类结果和置信度。
// Domain / Application Layer
public record InferenceRequest(string TextContext);
public record InferenceResult(float Confidence, string Classification);
public interface ITextClassificationPort
{
Task<InferenceResult> ClassifyAsync(InferenceRequest request, CancellationToken ct);
}
ClassifyAsync 的 CancellationToken ct 给调用方留了传递取消信号的入口,能否及时中止推理还取决于适配器。InferenceResult 只定义了一个 Classification 字段。原文同时提到情感分析和紧急度分类,示例只返回「URGENTE」,没有展示如何同时表达两项结果。
哪些模型输出可以触发自动决策?
端口解决的是调用方怎么拿到结果。结果能不能用于业务决策,要由用例判断。下面的 AnalyzeTextUseCase 在推理前校验输入,拿到结果后再检查置信度。
// Application Layer
public class AnalyzeTextUseCase
{
private readonly ITextClassificationPort _classificationPort;
private readonly IBusinessRuleValidator _validator;
public AnalyzeTextUseCase(
ITextClassificationPort classificationPort,
IBusinessRuleValidator validator)
{
_classificationPort = classificationPort;
_validator = validator;
}
public async Task<InferenceResult> ExecuteAsync(string text, CancellationToken ct)
{
// 1. Validaciones previas de negocio
_validator.EnsureValidInput(text);
// 2. Ejecutar inferencia (El caso de uso no sabe qué IA se ejecuta)
var request = new InferenceRequest(text);
var result = await _classificationPort.ClassifyAsync(request, ct);
// 3. Post-validación del output de la IA (Mitigar estocasticidad)
if (result.Confidence < 0.8f)
{
throw new InferenceConfidenceException("Confianza insuficiente para decisión automática.");
}
return result;
}
}
result.Confidence < 0.8f 这一行决定是否放行,恰好等于 0.8f 的结果会通过。原文没交代阈值怎么定,也没写入口收到 InferenceConfidenceException 后如何处理。要把这段接到工单界面,团队还得决定是提示用户补充信息,还是让工单进入人工复核。
作者把 SDK 调用、Polly 重试和原始输出解析放在基础设施层。示例里的 OnnxClassificationAdapter 用 new InferenceSession(modelPath) 初始化会话,分词和 _session.Run(inputs) 都留在注释里,最终固定返回 new InferenceResult(0.95f, "URGENTE")。按作者的设计,切到 OpenAI 时可以实现 OpenAiClassificationAdapter,再替换依赖注入注册。这个例子展示了替换入口,原文没有给出云端适配器的实现。
推理拖慢请求时,缓存、队列和追踪各管什么?
作者建议用 Redis 或向量数据库做语义缓存。普通缓存按键找结果,语义缓存会尝试把含义相近的文本归到一起,以减少重复推理。对紧急度分类来说,需要验证相似度能否保住关键差异。两条工单可能只差一个否定词,复用旧标签就可能把升级方向搞反。
重推理还可以交给 RabbitMQ,由 HostedServices 或 Workers 在后台执行,HTTP 请求可以先返回任务标识。队列改变的是请求等待方式,用户看到结果的时间仍取决于排队和推理耗时。作者也建议用 OpenTelemetry 单独记录适配器耗时,把供应商请求和 SQL 查询区分开。原文没有提供延迟、吞吐、缓存命中率或队列对照数据,网络是否是主要瓶颈得看服务自己的追踪数据。
我的判断
把业务放行规则留在用例层,是这套设计最扎实的部分。测试时可以让替身端口返回低分或异常,直接验证 AnalyzeTextUseCase 的行为。小型 Node 服务也可以用一个模块封装 SDK,再把分类函数传给用例。等到多个入口要共享同一套规则,或确实要维护云端和本地两套实现,再引入完整分层更容易看出收益。
换适配器能让调用代码保持稳定,分类行为仍要重验。两个模型即便都返回 Confidence,分数的含义也可能不同。文中的 0.95f 是固定值,0.8f 是示例门槛。作者没有给出标注样本、阈值校准或换模对照,所以「换个注册就能接入」可以视为代码组织上的经验,自动决策是否可靠还得用业务样本验证。
能拿来做什么
- 在 Node 后端把模型 SDK 封装成一个分类函数,由用例统一校验文本和结果。前端消费业务状态,供应商响应的字段变化由后端适配器处理。
- 给分类用例补上阈值边界和供应商异常的测试,覆盖刚好等于
0.8f、低于门槛、响应无法解析三种情况,并验证前端收到的业务状态。 - 换模型时用同一批已标注工单跑一遍,比较标签、低分占比和错误放行情况,再判断能否沿用原来的门槛。
- 先用 OpenTelemetry 找出请求时间花在哪。确认重推理需要离开 HTTP 请求流程后,再用 RabbitMQ 派发任务,让前端根据任务状态展示进度。