能力案例建设中
AI Business Agent Console：会引用、会请示、会等待的客服 AI
给已有业务系统加一个 AI 客服助手：从政策文档里找答案并给出处，通过 MCP 工具查订单，起草回复——任何改数据的操作都必须人工批准。
能力案例：使用合成数据演示，不是付费客户项目。
- 角色
- 独立完成 —— 产品、设计、架构、全栈与 AI 工程、测试
- 技术栈
- Next.js 16TypeScriptMCP TypeScript SDKDeepSeek阿里千问向量OpenAI / Gemini 适配器PostgreSQL + pgvectorDrizzleZodVitestDocker
概览
- 挑战： 网店的客服团队想让 AI 帮忙查资料、写回复，但怕它编造政策、擅自操作。
- 方案： 一个只按引用的政策作答的 Agent：通过 MCP 服务调用业务工具、起草回复，遇到任何写操作就暂停，直到另一个人批准这一个确切的操作。
- 结果： 接真实 DeepSeek 和千问向量，从提问到审批建单全链路跑通；98 个自动化测试、12 个确定性评测用例全部通过。
挑战
场景是一家虚构的家居用品网店。下面的数字是同等规模网店的典型情况，属于假设，不是客户数据。
- 团队： 12 人，其中客服 3 人，每天约 300 张工单，大部分是退款、物流和会员问题。
- 现状： 客服在政策文档（经常改版）和订单系统之间来回切换，新人常常引用过期的政策。
- 老板的要求： “我想让 AI 先把资料查好、回复写好，但它绝不能自己退款，也不能乱编政策。”
落到验收标准上是 5 条：
- 每个结论都能点开看到依据的政策原文和版本。
- 政策里没写的，回答“证据不足，转人工”，绝不猜。
- 退款、建工单等改数据的操作，必须由另一个人批准。
- 每次运行都能看到花了多少钱、用了多久。
- 模型厂商可以因为价格或合规原因随时更换。
方案
以案件为中心的工作台，而不是聊天框。 待办队列、正在调查的案件、带确切参数的审批卡片、步骤轨迹、模型就绪状态，都在一屏里。
有边界的 Agent。 它是一个状态机，而不是无限循环：分类 → 检索政策 → 查客户、订单、订阅 → 分析 → 起草 → 风险检查 → 等待审批或执行。硬上限：8 个步骤、5 次模型调用、6 次工具调用、60 秒超时、写操作不自动重试。
工具放在真实的 MCP 边界后面。
| 工具 | 风险 | 审批 |
|---|---|---|
| 查客户 / 订单 / 订阅、搜索政策 | 低 | 不需要 |
| 起草邮件 | 中 | 不需要——只起草，永不发送 |
| 创建工单 | 高 | 必须 |
技术亮点
| 客户担心的问题 | 怎么解决 |
|---|---|
| 幻觉 / 瞎编 | 引用编号在生成前分配，模型只能引用检索到的内容；证据不足明确返回“证据不足” |
| 擅自操作 | 工具按风险分级；写操作需要签名的一次性审批，绑定确切参数 |
| 权限与数据隔离 | 工作区身份由系统注入，模型无法传入；每次调用工具前检查角色 |
| 提示词注入 | 检索到的文档视为不可信；像指令的文字会被标记，不能扩大工具权限 |
| 隐私 | 日志脱敏邮箱、手机号、token 和 API key |
| 成本失控 | 步数、调用次数、时间都有上限；每次运行记录 token 和成本 |
| 被厂商锁死 | 生成和向量两个契约分开；DeepSeek、千问、OpenAI、Gemini 适配器 |
有两个缺陷只有接真实模型才暴露：MCP 严格输出校验拒绝了内部元数据；DeepSeek 的思考模式可能耗光 token 却不给答案。两个都已修复——这正是要跑真实链路的原因。
质量与测试
| 层级 | 结果 |
|---|---|
| 自动化测试 | 98 个通过——工具 schema、审批重放与自审批、风险策略、切片、检索、脱敏、模型适配器 |
| 评测 | 12 个确定性用例：检索、引用有效性、工具选择、参数准确性、审批、角色拒绝、租户隔离、注入 |
| MCP 协议 | 真实 Streamable HTTP 链路验证：web → MCP → 审批 → MCP → TICKET-0001 |
| 真实模型 | DeepSeek 生成 + 阿里 qwen3.7-text-embedding（1024 维）端到端跑通；缺少凭证时报 not_run，绝不编造分数 |
结果与边界
| 原始规格 | V1 实际交付 |
|---|---|
| PDF、DOCX、Markdown、TXT，最大 10 MB | UTF-8 .txt 和 .md，最大 2 MB |
| 全文 + 向量混合检索 | 向量检索；生产用 pgvector 表结构已就绪 |
| 4 个角色 + 行级安全 | 演示中使用固定的运营 / 审批身份 |
| 所有模型实测对比 | DeepSeek + 千问已实测；OpenAI、Gemini 按同一契约实现 |
公开演示使用确定性的 Demo 模型，随便点不花钱；接真实模型的运行在视频里展示。
交付过程
| 阶段 | 产出 |
|---|---|
| 需求 | 一个具体的客服问题、角色、工具风险表、验收标准 |
| 原型 | 页面流程图，以及工作台和运行 / 审批页的线框图 |
| UI | 以案件为中心的布局，每个结论旁边都有证据，审批参数紧挨着按钮 |
| 架构 | Web 应用 + 独立 MCP 服务，可插拔模型，pgvector |
| 开发 | 规格先行，用 AI 编码 Agent 开发；接真实模型验证 |
| 测试 | 单元测试、确定性评测、MCP 协议和真实模型运行 |
| 上线 | Render 上两个 Docker 服务（进行中） |