tzt
10bd4cc71d
- 新增《实现方案_v4_模型池与工具智能体.md》（D1-D6 决策、接口清单、T16-T21、实验设计） - 任务登记：v3 Web 应用化 T1-T6 + 模型池/智能体 T16-T21 - 进度记录：叙事泛化决策（价位轴收编端云轴）、端到端实测、论文下一步
109 lines
7.3 KiB
Markdown
109 lines
7.3 KiB
Markdown
# 毕业设计 · 进度记录
|
||
|
||
> 本文件记录"端云协同 LLM 协作系统"作为**毕业设计**推进过程中的关键决策、产出与待办。
|
||
> 对应仓库文档：`实现方案_v2_端云协同LLM协作系统.md`（系统权威方案）、`实现方案_v3_Web应用化.md`（Web 应用化设计）、`references/毕业论文_参考文献清单.md`（参考文献）。
|
||
|
||
---
|
||
|
||
## 一、本次推进的议题（按时间顺序）
|
||
|
||
1. **毕业设计命题**：为"端云协同 LLM 协作系统"拟定可行的毕业论文命题。
|
||
2. **参考文献核实与下载**：确认命题能否找到对应中英文文献，并落地下载。
|
||
3. **Web 应用化技术选型**：确定"把整体项目做成 Web 应用"的技术栈与架构，并定稿设计方案。
|
||
|
||
---
|
||
|
||
## 二、关键决策记录
|
||
|
||
### 2.1 命题方向（已定）
|
||
- 对象：本科 · 计算机科学与技术；侧重 **端云协同架构**。
|
||
- **推荐命题**：《基于端云协同的 LLM 服务成本优化系统设计与实现》（副标题：——以异构大小模型非对称协作为核心）。
|
||
- 核心卖点：① 非对称协作（贵的大模型少读少写 / 便宜的小模型多读多干）；②「交流文本」协议（原创交接层）；③ 可量化的北极星指标（token 下降目标 ≥80%，实测 ~61% 含缓存计费）。
|
||
- 定位判断：这是**系统/工程类**毕设，非新算法类；命题应落在"面向成本约束的协作机制设计与实现"，避免宣称"提出了新模型/新方法"。
|
||
- 提醒：北极星指标在论文中勿写死"80%"，表述为"缓存计费下下降约 61%，结合前缀缓存复用目标 ≥80%"。
|
||
|
||
### 2.2 参考文献（已落地）
|
||
- 确认命题**文献充足**：已有英文路由/级联文献极强，另有"端云协同/大小模型协作"方向专门综述。
|
||
- **外文已下载 5 篇**（`references/arxiv_papers/`，已验证有效 PDF）：
|
||
- 14 FrugalGPT (2305.05176)
|
||
- 15 Small Models in the LLM Era Survey (2409.06857)
|
||
- 16 Dynamic Model Routing & Cascading Survey (2603.04445)
|
||
- 17 Edge SLMs + Cloud LLMs Collaboration Survey (2507.16731) ← 与命题几乎同名
|
||
- 18 Collaborating Small and Large LLMs Survey (2510.13890)
|
||
- **中文文献**：由**使用者本人走校园网知网下载**到 `research/`（如《Token级多模型并联协作推理_王建辉》《大小模型端云协同进化技术进展_王永威》《大语言模型时代的人工智能_陈光》等）；另有开放获取的《大语言模型算法演进综述_中兴通讯技术》存于 `references/cnki_open/`。
|
||
- **提醒**：所有中文文献定稿前必须在知网逐条核对页码/作者/年份；外文 14–18 可放心引用。
|
||
|
||
### 2.3 Web 应用化技术选型（已定）
|
||
- **后端**：保持 **Python + FastAPI + uvicorn，不重写**（`router_system` 为纯标准库，229 项测试全绿）。
|
||
- **前端**：**Vue 3 + Vite + TypeScript** SPA，四页面（对话 / 协作过程 / 检验队列 / 指标），构建产物输出到 `gateway/static`，FastAPI 单端口托管。
|
||
- **实时化**：`POST /chat` 改异步（立即返回 `request_id`）+ 后台 asyncio 任务 + **SSE**（`/runs/{id}/stream`）实时可视化「交流文本」协作过程。
|
||
- **关键约束（D3）**：SSE 通过**监视 `runs/{id}/workspace.json`** 实现，**不修改 `router_system/pipeline.py`**，保住测试全绿。
|
||
- **避坑**：不上 Celery/Redis/微服务；asyncio + sqlite + 文件系统足够。
|
||
- 完整设计见 **`实现方案_v3_Web应用化.md`**（含 D1–D9、SSE 协议、目录结构、T1–T6、验收标准）。
|
||
|
||
---
|
||
|
||
## 三、本次产出文件
|
||
|
||
| 文件 | 说明 |
|
||
|---|---|
|
||
| `实现方案_v3_Web应用化.md` | Web 应用化权威设计方案（技术栈/架构/接口/步骤/验收） |
|
||
| `references/毕业论文_参考文献清单.md` | 参考文献初稿清单（已下载 / 需知网下载 / 提醒） |
|
||
| `references/arxiv_papers/14–18_*.pdf` | 5 篇新增外文文献（有效 PDF） |
|
||
| `references/cnki_open/中_大语言模型算法演进综述_中兴通讯技术.pdf` | 1 篇开放获取中文 PDF |
|
||
| `research/` 下多篇中文 PDF | 使用者自行从知网下载的中文文献 |
|
||
|
||
> 说明：`git status` 中 `router_system/`、`scripts/`、`tests/` 等处的改动为**本会话之前已存在的历史修改**，非本次 Web 应用化产出。
|
||
|
||
---
|
||
|
||
## 四、待办 / 下一步
|
||
|
||
1. **实施 Web 应用化**（按 `实现方案_v3_Web应用化.md` T1→T6）：
|
||
- T1 后端异步化（`jobs.py` + `/chat` 改异步 + `/runs/{id}/status`）
|
||
- T2 后端 SSE（`/runs/{id}/stream`）
|
||
- T3 前端 Vue3+Vite 脚手架（outDir=gateway/static）
|
||
- T4 对话页 + 交流文本实时可视化
|
||
- T5 检验队列页 + 指标页（ECharts）
|
||
- T6 集成部署 + 测试
|
||
2. **收尾答辩材料**：补齐中文文献题录（知网核对）、论文各章节、E1 `--live` 真实链路数据。
|
||
3. 将 v3 方案登记进 `任务拆解与执行计划.md`，并把 AGENTS.md 的"当前权威规划"指针同步到 v3。
|
||
|
||
---
|
||
|
||
*记录人：DSH Agent（2026）。*
|
||
|
||
---
|
||
|
||
## 五、2026-09-01 推进：模型池 + 工具智能体（叙事升级落地）
|
||
|
||
### 5.1 关键决策
|
||
- **叙事泛化（命题不变）**：把「端云分工」泛化为**按价位分工**——代码里角色轴
|
||
（Architect 决策 / Worker 实现）与位置轴本来就正交（ArchitectClient 走 OpenAI 兼容协议、
|
||
Worker 已有 mock/llama_server/openai 三后端），故"端云协同"收编为"多价位模型池"的两档特例。
|
||
命题标题、开题材料、文献锚点全部不动，系统叙事升级（答辩加分项）。
|
||
- **术语**：对外表述用「多价位模型协作 / 分级调度 / 异构模型池」，**避免"融合"**
|
||
（会被理解为模型级 ensemble）。FrugalGPT（文献 14）为新叙事主锚点。
|
||
- **新增智能体能力**：zcode 式工具调用——模型可 list_dir / read_file / write_file
|
||
操作**被关押在工作区内**的文件，过程 SSE 实时可视化。
|
||
- 设计全文：`实现方案_v4_模型池与工具智能体.md`（D1–D6、接口清单、T16–T21、实验设计）。
|
||
|
||
### 5.2 产出
|
||
- 后端：`router_system/tools.py`（纯标准库工具内核）、`gateway/model_pool.py`（模型池）、
|
||
`gateway/agent.py`（智能体服务）、`/pool` + `/agent` 全套端点、V2Stats 按模型分账。
|
||
- 前端：设置页「模型池」区块（角色指派/条目 CRUD/连通测试）、新「🤖 智能体」页
|
||
（工具时间轴 + 工作区文件浏览）、指标页「按模型分账」卡。
|
||
- 顺手修复：SSE final 后重连回放导致的重复渲染；`/agent` 深链 SPA 路由。
|
||
- **测试**：全量 262 passed（基线 229 + 新增 33：tools 11 / pool 10 / agent 6）。
|
||
- **端到端实测**（DeepSeek 真跑 3 轮）：写 hello.py → 写 note.md+列目录 → 读 hello.py 审阅，
|
||
工具事件实时渲染、工作区真实落盘、路径越界被拒、token 计量正确。
|
||
|
||
### 5.3 下一步
|
||
1. 论文表述更新：系统架构图加入"模型池 + 价位轴"；补一节工具智能体与护栏设计。
|
||
2. 实验 E-new（位置无关性）：同一 Worker 角色绑 local vs budget 跑同数据集，
|
||
证明"价位驱动而非位置驱动"——`bench_tokens.py` 改造可跑。
|
||
3. Worker 步骤级工具化（可选增强）：协作管线内 Worker 也可用工具构建工件（opt-in 开关）。
|
||
4. 中文文献知网核对仍待完成（定稿前必做）。
|
||
|
||
*记录人：DSH Agent（2026）。*
|