tzt
10bd4cc71d
- 新增《实现方案_v4_模型池与工具智能体.md》（D1-D6 决策、接口清单、T16-T21、实验设计） - 任务登记：v3 Web 应用化 T1-T6 + 模型池/智能体 T16-T21 - 进度记录：叙事泛化决策（价位轴收编端云轴）、端到端实测、论文下一步
7.3 KiB
7.3 KiB
毕业设计 · 进度记录
本文件记录"端云协同 LLM 协作系统"作为毕业设计推进过程中的关键决策、产出与待办。 对应仓库文档：
实现方案_v2_端云协同LLM协作系统.md（系统权威方案）、实现方案_v3_Web应用化.md（Web 应用化设计）、references/毕业论文_参考文献清单.md（参考文献）。
一、本次推进的议题（按时间顺序）
- 毕业设计命题：为"端云协同 LLM 协作系统"拟定可行的毕业论文命题。
- 参考文献核实与下载：确认命题能否找到对应中英文文献，并落地下载。
- Web 应用化技术选型：确定"把整体项目做成 Web 应用"的技术栈与架构，并定稿设计方案。
二、关键决策记录
2.1 命题方向（已定）
- 对象：本科 · 计算机科学与技术；侧重 端云协同架构。
- 推荐命题：《基于端云协同的 LLM 服务成本优化系统设计与实现》（副标题：——以异构大小模型非对称协作为核心）。
- 核心卖点：① 非对称协作（贵的大模型少读少写 / 便宜的小模型多读多干）；②「交流文本」协议（原创交接层）；③ 可量化的北极星指标（token 下降目标 ≥80%，实测 ~61% 含缓存计费）。
- 定位判断：这是系统/工程类毕设，非新算法类；命题应落在"面向成本约束的协作机制设计与实现"，避免宣称"提出了新模型/新方法"。
- 提醒：北极星指标在论文中勿写死"80%"，表述为"缓存计费下下降约 61%，结合前缀缓存复用目标 ≥80%"。
2.2 参考文献（已落地）
- 确认命题文献充足：已有英文路由/级联文献极强，另有"端云协同/大小模型协作"方向专门综述。
- 外文已下载 5 篇（
references/arxiv_papers/，已验证有效 PDF）：- 14 FrugalGPT (2305.05176)
- 15 Small Models in the LLM Era Survey (2409.06857)
- 16 Dynamic Model Routing & Cascading Survey (2603.04445)
- 17 Edge SLMs + Cloud LLMs Collaboration Survey (2507.16731) ← 与命题几乎同名
- 18 Collaborating Small and Large LLMs Survey (2510.13890)
- 中文文献：由使用者本人走校园网知网下载到
research/（如《Token级多模型并联协作推理_王建辉》《大小模型端云协同进化技术进展_王永威》《大语言模型时代的人工智能_陈光》等）；另有开放获取的《大语言模型算法演进综述_中兴通讯技术》存于references/cnki_open/。 - 提醒：所有中文文献定稿前必须在知网逐条核对页码/作者/年份；外文 14–18 可放心引用。
2.3 Web 应用化技术选型（已定）
- 后端：保持 Python + FastAPI + uvicorn，不重写（
router_system为纯标准库，229 项测试全绿）。 - 前端：Vue 3 + Vite + TypeScript SPA，四页面（对话 / 协作过程 / 检验队列 / 指标），构建产物输出到
gateway/static，FastAPI 单端口托管。 - 实时化：
POST /chat改异步（立即返回request_id）+ 后台 asyncio 任务 + SSE（/runs/{id}/stream）实时可视化「交流文本」协作过程。 - 关键约束（D3）：SSE 通过监视
runs/{id}/workspace.json实现，不修改router_system/pipeline.py，保住测试全绿。 - 避坑：不上 Celery/Redis/微服务；asyncio + sqlite + 文件系统足够。
- 完整设计见
实现方案_v3_Web应用化.md（含 D1–D9、SSE 协议、目录结构、T1–T6、验收标准）。
三、本次产出文件
| 文件 | 说明 |
|---|---|
实现方案_v3_Web应用化.md |
Web 应用化权威设计方案（技术栈/架构/接口/步骤/验收） |
references/毕业论文_参考文献清单.md |
参考文献初稿清单（已下载 / 需知网下载 / 提醒） |
references/arxiv_papers/14–18_*.pdf |
5 篇新增外文文献（有效 PDF） |
references/cnki_open/中_大语言模型算法演进综述_中兴通讯技术.pdf |
1 篇开放获取中文 PDF |
research/ 下多篇中文 PDF |
使用者自行从知网下载的中文文献 |
说明：
git status中router_system/、scripts/、tests/等处的改动为本会话之前已存在的历史修改，非本次 Web 应用化产出。
四、待办 / 下一步
- 实施 Web 应用化（按
实现方案_v3_Web应用化.mdT1→T6）：- T1 后端异步化（
jobs.py+/chat改异步 +/runs/{id}/status） - T2 后端 SSE（
/runs/{id}/stream） - T3 前端 Vue3+Vite 脚手架（outDir=gateway/static）
- T4 对话页 + 交流文本实时可视化
- T5 检验队列页 + 指标页（ECharts）
- T6 集成部署 + 测试
- T1 后端异步化（
- 收尾答辩材料：补齐中文文献题录（知网核对）、论文各章节、E1
--live真实链路数据。 - 将 v3 方案登记进
任务拆解与执行计划.md，并把 AGENTS.md 的"当前权威规划"指针同步到 v3。
记录人：DSH Agent（2026）。
五、2026-09-01 推进：模型池 + 工具智能体（叙事升级落地）
5.1 关键决策
- 叙事泛化（命题不变）：把「端云分工」泛化为按价位分工——代码里角色轴 （Architect 决策 / Worker 实现）与位置轴本来就正交（ArchitectClient 走 OpenAI 兼容协议、 Worker 已有 mock/llama_server/openai 三后端），故"端云协同"收编为"多价位模型池"的两档特例。 命题标题、开题材料、文献锚点全部不动，系统叙事升级（答辩加分项）。
- 术语：对外表述用「多价位模型协作 / 分级调度 / 异构模型池」，避免"融合" （会被理解为模型级 ensemble）。FrugalGPT（文献 14）为新叙事主锚点。
- 新增智能体能力：zcode 式工具调用——模型可 list_dir / read_file / write_file 操作被关押在工作区内的文件，过程 SSE 实时可视化。
- 设计全文：
实现方案_v4_模型池与工具智能体.md（D1–D6、接口清单、T16–T21、实验设计）。
5.2 产出
- 后端：
router_system/tools.py（纯标准库工具内核）、gateway/model_pool.py（模型池）、gateway/agent.py（智能体服务）、/pool+/agent全套端点、V2Stats 按模型分账。 - 前端：设置页「模型池」区块（角色指派/条目 CRUD/连通测试）、新「🤖 智能体」页 （工具时间轴 + 工作区文件浏览）、指标页「按模型分账」卡。
- 顺手修复：SSE final 后重连回放导致的重复渲染；
/agent深链 SPA 路由。 - 测试：全量 262 passed（基线 229 + 新增 33：tools 11 / pool 10 / agent 6）。
- 端到端实测（DeepSeek 真跑 3 轮）：写 hello.py → 写 note.md+列目录 → 读 hello.py 审阅， 工具事件实时渲染、工作区真实落盘、路径越界被拒、token 计量正确。
5.3 下一步
- 论文表述更新：系统架构图加入"模型池 + 价位轴"；补一节工具智能体与护栏设计。
- 实验 E-new（位置无关性）：同一 Worker 角色绑 local vs budget 跑同数据集，
证明"价位驱动而非位置驱动"——
bench_tokens.py改造可跑。 - Worker 步骤级工具化（可选增强）：协作管线内 Worker 也可用工具构建工件（opt-in 开关）。
- 中文文献知网核对仍待完成（定稿前必做）。
记录人：DSH Agent（2026）。