feat(proxy): T-P8 压测与预算管道(mock 管道 h_g=100%/P99=23.5ms,M3 达成)
- scripts/bench_proxy.py:200 条校园模拟请求生成器(重复>=50%)+ TestClient 内存压测 + h_g/吞吐/P50/P99/账目一致性指标 + CSV+MD 报告入 AI代理功能开发/bench/;--live 桩(CAMPUS_PROXY_KEY 零字面量 + --yes 花费确认 + 50 条子集真实 h_p) - 实测:h_g=100%(L1 精确缓存命中全部重复请求)/P99=23.48ms(预算 50ms)/ 吞吐 205 req/s/无负余额/账目一致 - 全量 423 passed
This commit is contained in:
@@ -206,3 +206,14 @@
|
||||
2. 真机项:llama-server embedder 端点冒烟(需 bge-m3 模型);DeepSeek key 重配后
|
||||
走 collect 模式积累真实观察(2-4 周)→ sense_report 晋升门核对 → live。
|
||||
3. 备份锚点:`sense-m-g3` tag(412 全绿)。
|
||||
|
||||
### 6.4 增补(同日):代理层 T-P6~T-P8 完成(M2+M3 达成)
|
||||
- T-P6 语义缓存(e41471c + c54ad23 接线):L1/L2 倒排+晋升+singleflight+SSE 回放;
|
||||
e2e 实证同问二答 X-Cache: HIT 上游仅 1 次、账目 status=cached cost=0。
|
||||
- T-P7 管理面(4f272dc + 7caab52):stats/ledger 端点 + ProxyView 三卡片
|
||||
(students 列表端点 501——Mimosa 扫描误报阻塞新 SELECT 写入,解除后补两方法)。
|
||||
- T-P8 压测(bench_proxy.py):mock 管道 h_g=100%(重复>=50% 数据集)/
|
||||
P99=23.5ms(预算 50ms)/吞吐 205 req/s/账目零不一致;--live 桩就绪
|
||||
(CAMPUS_PROXY_KEY 环境变量 + --yes 确认)。
|
||||
- **M3 总验收达成**(mock 口径);报告落盘 AI代理功能开发/bench/。
|
||||
- 回档锚点:sense-m-g3 之上新增 proxy-m2-m3 tag(423 全绿)。
|
||||
|
||||
Reference in New Issue
Block a user