 tzt
|
e00e2cd2b1
|
feat(proxy): 架构与算法优化二轮——sense 运行时单例激活 T-X3、打码密钥泄漏修复、账本热路径 2.4x
- gateway/proxy/routes.py：sense 运行时（SenseStore+Grader+晋升表）按配置单例化，
原每请求重建导致：每请求跑全量 DDL、重读工件文件，且 T-X3 60s 决策缓存随
Grader 丢弃、命中率恒为 0（本轮最大收益，激活既有已测组件）；
T1 审计抽样修复原 NameError×3 被 except 吞掉（load_config/get_review/request_id
均未定义、§9.4 从未入队）——request_id 上提、review 队列经 review_getter 注入
（api.py 反向依赖解除）、sample_rate 走 load_config
- gateway/model_pool.py：新增 usable_entries() 未打码内通道；routes 的降级链/
预算降档/能力位重定向/档位映射四处改走该通道——修复打码 api_key 流入上游
Bearer 头导致带密钥条目重定向必 401 的隐性缺陷（HTTP 管理面仍用打码 list()）
- gateway/proxy/ledger.py + billing.py：共享持久连接（原每操作新建，全链路
每请求 3-5 次 connect）+ 日重置 UPDATE 每实例每日一次短路（原每请求全表扫描
抢写锁）；check_and_count A/B 0.75→0.31 ms/op（2.4x）；新增 usage_stats()
SQL 聚合，/admin/stats 从 list_usage(limit=50 万) Python 四遍扫描改为下推聚合
（微基准 ~28x，随流水线性扩大）
- gateway/sense/grader.py：决策留痕 insert_decision 移入 asyncio.to_thread
（原同步 sqlite 写直接跑在事件循环线程，高并发阻塞网关；与观察写批量队列同等保护）
- 全量 474 项两轮复核全绿（基线 474）
|
2026-09-18 23:59:44 +08:00 |
|
|
tzt
|
e41471c39c
|
feat(proxy): T-P6 语义缓存（L1/L2 倒排+singleflight+SSE 回放，M2 核心）
- semcache.py：SemanticCache——L1 精确（LRU max_entries=30万）+ L2 字符 2/3-gram
倒排索引（启动自 sqlite q_norm 重建）+ 加权 Jaccard（3-gram 权 2）+
共享 gram>=3 候选门限 + 阈值 0.92 + TTL 滑动过期 + L2 命中 5 次晋升 L1
（别名键写回表）；SingleFlight（dict[hash->Future] 上限 256/60s 超时降级）；
synth_sse_chunks 命中回放（分块 delta+finish+[DONE] 合法 SSE）
- ledger：semcache_rows/put_semcache/promote_semcache/purge_expired
- 测试 +10：gram/精确/语义上下阈值/TTL 假时钟/LRU/重建/晋升/singleflight/SSE 合法性，
全量 422 passed
- 待接线：routes 缓存分支（T-P7 顺带接入，M2 完整闭环在压测前完成）
|
2026-09-05 15:39:48 +08:00 |
|
|
tzt
|
a9f3405970
|
feat(proxy): T-P1 鉴权+账本（原子预扣/热路径缓存/令牌桶/管理鉴权原语）
- ledger.py：students/keys CRUD + 日限额 check_and_count（跨日重置，注入时钟）+
流水分页；计费两阶段拆分至 billing.py（BillingMixin，评审聚焦）：
try_hold 锁内读现状->日上限判定->余额原子防线->holding 流水（request_id 幂等）、
settle 按真实值回补（预扣-实际）差额、void 全额退款（上游失败）
- auth.py：issue_key（sk-campus- 前缀，明文只返回一次，库存 sha256+前缀）、
authenticate 校验链（形态/注销/停用/日额/rpm，热路径 LRU TTL30s D-P10）、
RateLimiter（令牌桶 rpm + per-key 并发信号量，D-P9 单进程）、
verify_admin（hmac.compare_digest；未配置仅 loopback）
- 测试 +17：签发/错key/注销/停用/403/rpm 429/日额 429/并发槽/admin 策略 +
预扣-结算-回补一致/双向差额/余额不足/日上限/幂等/跨日重置/void/并发10路不超扣
- 全量 339 passed
|
2026-09-05 09:05:59 +08:00 |
|
|
tzt
|
b109576707
|
feat(proxy): T-P0 代理层骨架（包结构/DDL/门控挂载/单进程校验）
- gateway/proxy/ 十文件：config（ProxyConfig：元->毫元加载期换算 D-P1、差异化售价、
桶/峰谷/限流/semcache 配置）/ errors（8 类 HTTP 语义异常）/ ledger（四表两索引 DDL，
WAL，ReviewQueue 连接纪律）/ auth·pricing·normalizer·semcache·upstream（§6 签名占位）
/ routes（/proxy/v1/models OpenAI 形状）/ __init__（build_proxy_router 组装点）
- settings DEFAULTS 增 proxy 段（enabled 默认 False，D-P7）
- api.py 首次 include_router（enabled 门控 + 装配失败不拖垮主应用）
- serve.py workers>1 拒绝启动（D-P9：WEB_CONCURRENCY/UVICORN_WORKERS 校验）
- 测试 +4（门控 404/DDL 幂等/毫元换算/池模型列表），全量 322 passed
|
2026-09-05 08:35:31 +08:00 |
|