 tzt
|
e00e2cd2b1
|
feat(proxy): 架构与算法优化二轮——sense 运行时单例激活 T-X3、打码密钥泄漏修复、账本热路径 2.4x
- gateway/proxy/routes.py：sense 运行时（SenseStore+Grader+晋升表）按配置单例化，
原每请求重建导致：每请求跑全量 DDL、重读工件文件，且 T-X3 60s 决策缓存随
Grader 丢弃、命中率恒为 0（本轮最大收益，激活既有已测组件）；
T1 审计抽样修复原 NameError×3 被 except 吞掉（load_config/get_review/request_id
均未定义、§9.4 从未入队）——request_id 上提、review 队列经 review_getter 注入
（api.py 反向依赖解除）、sample_rate 走 load_config
- gateway/model_pool.py：新增 usable_entries() 未打码内通道；routes 的降级链/
预算降档/能力位重定向/档位映射四处改走该通道——修复打码 api_key 流入上游
Bearer 头导致带密钥条目重定向必 401 的隐性缺陷（HTTP 管理面仍用打码 list()）
- gateway/proxy/ledger.py + billing.py：共享持久连接（原每操作新建，全链路
每请求 3-5 次 connect）+ 日重置 UPDATE 每实例每日一次短路（原每请求全表扫描
抢写锁）；check_and_count A/B 0.75→0.31 ms/op（2.4x）；新增 usage_stats()
SQL 聚合，/admin/stats 从 list_usage(limit=50 万) Python 四遍扫描改为下推聚合
（微基准 ~28x，随流水线性扩大）
- gateway/sense/grader.py：决策留痕 insert_decision 移入 asyncio.to_thread
（原同步 sqlite 写直接跑在事件循环线程，高并发阻塞网关；与观察写批量队列同等保护）
- 全量 474 项两轮复核全绿（基线 474）
|
2026-09-18 23:59:44 +08:00 |
|
|
tzt
|
5078721df4
|
feat(proxy): T-X6 模型池能力位过滤——vision/tools/context 硬过滤（采纳 cortiq capabilities）
- model_pool：条目新增 capabilities{vision,tools,context_window}，
归一化缺省全兼容（老条目行为零变化；非法形态回落缺省）；
filter_by_capabilities 硬过滤（context_window=0 视为不限）
- proxy routes：_request_needs 从请求体推断需求（多模态 image_url → vision、
tools 非空 → tools、上下文需求 = 字符/3 + min(max_tokens,4096) 与预扣同口径）；
条目不满足时在池内重定向到首个合格条目
- 与 T-X1/T-X2 组合语义：能力重定向 → 预算降档 → 降级链，逐级独立不互扰
pytest 461 passed（T-X3 后 455 + 6）
|
2026-09-18 22:45:50 +08:00 |
|
|
tzt
|
f24f016e95
|
feat(proxy): T-P2 上游客户端（流式派发/usage 注入过滤/三家归一化/首 token 前 failover）
- upstream.py：httpx.AsyncClient 模块级单例（keepalive，limits=100，
超时 connect10/read120/write10/pool30）；stream() 始终注入
stream_options.include_usage（计量不依赖客户端）+ filter_usage_chunk
（客户端未要求 usage 时剥除该 chunk）；D-P4 首 token 前 failover 链、
流中失败抛 UpstreamAborted（不可切换）；ttfb_ms 记录
- normalize_usage 三家归一：deepseek prompt_cache_hit_tokens /
openai prompt_tokens_details.cached_tokens / anthropic cache_read_input_tokens
（命中数>总数时钳制）
- model_pool：+provider（枚举校验 deepseek/openai/anthropic）+in_hit_price
（缺省 = price_in×1/30，D-P3）
- 测试 +6：透传+sink/failover/流中 aborted/全挂 502/三家归一/过滤，全量 345 passed
|
2026-09-05 09:14:31 +08:00 |
|
|
tzt
|
374dc765c2
|
feat(v3): T17-T18 模型池 + 工具智能体后端
- T17 模型池：PoolStore（local/budget/premium 条目 + architect/worker/agent 角色指派），
/pool CRUD+连通测试+模型探测端点；build_v2_pipeline 池指派优先（测试 override 最后）；
V2Stats 新增 by_model 按 token/成本分账
- T18 智能体：OpenAI 兼容工具调用客户端（transport 可注入）+ AgentService
（事件落盘 agent_runs/{id}/events.jsonl）+ /agent 提交/status/events/SSE stream
+ 工作区浏览/读取端点（越界 400）；轮数与 token 双护栏，模型经池 agent 角色或经典回退
- 新增测试 16 项，全量 262 passed（httpx 假注入，不依赖真实模型/key）
|
2026-09-01 08:51:52 +08:00 |
|