7.4 KiB
7.4 KiB
enterprise-ai-agent-gateway
企业级 AI 智能体网关
这份终稿设计书已经为你全面整合完毕。它不仅包含了底层的数据库模型和网关责任链,还把你刚刚关心的**“前端如何降低脚本编写成本”的设计思路,以及核心的系统提示词(System Prompt)**全部固化了进去。
你可以直接将以下全部内容复制,喂给 Antigravity,让它开始生成骨架代码。
🚀 Enterprise AI Agent Gateway (企业级 AI 智能体网关) - 核心架构与开发设计书
1. 架构定位与核心设计理念
本系统是一个定位于大模型(LLM/AI Agent)与企业老旧业务系统(Legacy Systems)之间的安全中间件与协议转换枢纽。
- 零侵入架构:老系统无需修改任何代码,通过本网关即可将现有 API 暴露为标准的大模型 Tool Schema。
- 控制面与数据面分离:
- 控制面 (Control Plane):前端可视化配置,业务人员通过“表单填报”或“AI 辅助生成”完成 API 注册与清洗规则设定。
- 数据面 (Data Plane):纯粹的 Java 高并发执行引擎,负责鉴权、状态挂起(人工审批)、代理调用与底层 GraalVM 极速数据洗涤。
2. 技术栈选型
- 数据面网关核心:Spring Boot 3.x (WebFlux/纯 WebMVC) + JDK 17/21。
- 清洗执行引擎:GraalVM Polyglot (内嵌高安全级别的 JavaScript 运行时沙箱)。
- 缓存与风控:Redis (分布式限流、状态机挂起) + Caffeine (本地极速配置缓存)。
- 控制面后端:Spring Boot / FastAPI (提供标准的 CRUD 接口)。
- 前端管理台:Vue 3 + Element Plus / Ant Design Vue + Monaco Editor。
- 数据存储:MySQL 8.0。
3. 核心数据库实体模型 (MySQL 8.0 DDL 需求)
To Antigravity: 请基于以下实体关系,优先生成 DDL 建表语句以及对应的底层 CRUD 代码(Entity/Mapper/Service)。
3.1 ai_tenant (租户/AI 助手接入表)
id: 主键tenant_name: 租户/机器人名称(例:“财务客服 Agent”)app_key: 网关调用的唯一凭证 (唯一索引)app_secret: 签名与加解密密钥rate_limit_qps: 该租户的全局 QPS 限制阈值status: 状态 (启用/禁用)
3.2 ai_tool_registry (API 工具注册表)
id: 主键tool_name: 工具标识(英文下划线,符合 LLM 命名规范)description: 喂给大模型的详细描述(决定 LLM 是否调用该工具的核心依据)action_type:READ(默认放行) /WRITE(高危,强制触发人工审批)target_url: 底层老系统的真实内网 URLhttp_method: GET / POSTrequest_schema: 请求参数的标准 JSON Schema (用于 LLM 识别)
3.3 ai_tenant_tool_rel (权限控制映射表)
tenant_id: 关联ai_tenant.idtool_id: 关联ai_tool_registry.id
3.4 ai_wash_script (GraalVM 数据清洗脚本表)
tool_id: 唯一关联ai_tool_registry.idjs_script: 具体的 JavaScript 源码文本(由控制面生成,供数据面 GraalVM 执行)version: 版本号,用于并发控制和缓存刷新
3.5 ai_audit_log (全链路安全审计日志表)
trace_id: 全局请求流水号 (UUID)tenant_id: 关联的租户 IDtool_name: 命中的工具名称raw_request: AI 发起的原始 JSON 参数raw_response: 老系统返回的巨型原始 JSON (MediumText)washed_response: 经过 GraalVM JS 脚本洗涤后的纯净 JSONcost_time_ms: 总耗时 (毫秒)
4. 控制面前端 (Vue 3) 交互设计规范
前端的核心目标是隐藏 JavaScript 的编写复杂度。对于清洗规则 (ai_wash_script) 的配置页面,需实现以下三层交互降级方案:
- AI Copilot 生成(主推):页面提供左侧输入“原始 JSON 样例”,上方输入“自然语言提取需求”,点击按钮后,后台调用大模型生成 JS 代码并填充。
- 可视化勾选表单(中阶):提供“保留字段白名单”、“移除 Null 值”、“拍平数组”等勾选项,前端根据勾选自动拼接为 JS 字符串。
- Monaco Editor 兜底(高阶):提供类似 VS Code 的代码编辑框,允许懂代码的开发人员直接修正在线生成的 JavaScript 规则。
5. 数据面网关 Pipeline (责任链/Filter Chain 设计)
To Antigravity: 在生成网关核心转发逻辑时,请严格按照以下 Filter 顺序构建职责链模式。
- Config Watcher (配置加载):定时从 MySQL 拉取
ai_tool_registry、权限与js_script,加载至 Caffeine 内存。 - Auth & Rate Limiting (鉴权限流):校验
app_key,拦截非法调用;利用 Redis 执行令牌桶限流。 - Identity OBO (权限穿透):若包含终端用户 Token,将该身份附加至 Downstream Header 中。
- HITL Suspender (审批挂起):若
action_type == 'WRITE',拦截当前线程,向外部(如企微/钉钉)发送包含审批链接的 Webhook,当前请求挂起等待回调。 - Proxy Execution (代理转发):组装参数,向
target_url发起真实的 HTTP 内部请求。 - GraalVM Washing (洗涤瘦身):拿到原始大 JSON,在限制了内存与执行时间(如 max 100ms)的 GraalVM 沙箱中执行对应的
js_script,返回瘦身结果。 - Async Audit (异步审计):无论成功失败,将完整上下文抛入线程池,落库至
ai_audit_log。
6. 核心资产:AI 辅助生成清洗脚本的 System Prompt
针对控制面的“AI 自动生成 JS 规则”功能,后端需要内置以下 System Prompt。
# Role
你是一个资深的 JavaScript 数据处理专家与大模型工程架构师。
# Objective
你的任务是根据用户提供的【原始庞大 JSON 样例】和【自然语言提取要求】,编写一段精简、安全、高效的 JavaScript 代码,用于在 GraalVM 环境下对 JSON 进行瘦身清洗。这段清洗后的数据将被直接喂给大模型(LLM)作为上下文。
# Constraints & Rules
1. 你的输出必须且只能包含一个名为 `wash` 的 JavaScript 函数。
2. 该函数的入参必须是 `rawJsonString` (字符串类型)。
3. 该函数的返回值必须是清洗并序列化后的 JSON 字符串,以确保后续直接使用。
4. 代码必须健壮,需处理常见的空指针(undefined/null)和数组越界异常。
5. 必须剔除所有无业务价值的字段(如 HTML 标签、内部 traceId、全 null 字段等),最大限度节省 LLM 的 Token。
6. 不要使用任何外部依赖或 npm 包,只能使用 ES6+ 标准原生语法。
# Output Format Example
```javascript
function wash(rawJsonString) {
try {
const data = JSON.parse(rawJsonString);
if (!data || !data.list) return "[]";
const result = data.list.map(item => ({
eventName: item.event_name || '未知',
date: item.timestamp ? new Date(item.timestamp).toISOString().split('T')[0] : '',
coreProfit: item.financial_data?.net_profit ?? 0
}));
return JSON.stringify(result);
} catch (e) {
return JSON.stringify({ error: "数据清洗失败" });
}
}
把这份文档丢给 Antigravity 后,你可以直接下达指令:“请先根据第 3 节生成所有 MySQL 建表语句,然后生成第 5 节的 Filter 责任链代码骨架。” 期待你的架构早日跑通!