 tzt
|
b2b7a64cb3
|
feat(proxy): T-X12 采纳 enterprise-ai-gateway 双桶限流——TPM token 桶 + 语义缓存命中率透出
- auth.RateLimiter.allow_tokens：TPM 令牌桶（容量=tpm_cap，连续回流 tpm/60 每秒，
与 RPM 桶共用 per-key 锁、判定相互独立；tpm_cap<=0 不限）
- ProxyConfig.limits.tpm_per_key（默认 60000，0=不限）；chat_completions 在并发槽
之后做 TPM 预扣判定（est=字符/3 与计费同口径），拒绝时释放并发槽并回 429
（文案区分并发/RPM/TPM 三种原因）
- semcache.stats 增 misses 与 hit_rate；/admin/stats 新增 semcache 段透出
（entries/hits_exact/hits_semantic/misses/hit_rate，与账本 h_g 互补）
- 新增 tests/test_tpm_limiter.py 6 项（容量/回流/禁用/双桶独立/key 隔离/命中率）
|
2026-09-19 10:09:56 +08:00 |
|
|
tzt
|
a9f3405970
|
feat(proxy): T-P1 鉴权+账本（原子预扣/热路径缓存/令牌桶/管理鉴权原语）
- ledger.py：students/keys CRUD + 日限额 check_and_count（跨日重置，注入时钟）+
流水分页；计费两阶段拆分至 billing.py（BillingMixin，评审聚焦）：
try_hold 锁内读现状->日上限判定->余额原子防线->holding 流水（request_id 幂等）、
settle 按真实值回补（预扣-实际）差额、void 全额退款（上游失败）
- auth.py：issue_key（sk-campus- 前缀，明文只返回一次，库存 sha256+前缀）、
authenticate 校验链（形态/注销/停用/日额/rpm，热路径 LRU TTL30s D-P10）、
RateLimiter（令牌桶 rpm + per-key 并发信号量，D-P9 单进程）、
verify_admin（hmac.compare_digest；未配置仅 loopback）
- 测试 +17：签发/错key/注销/停用/403/rpm 429/日额 429/并发槽/admin 策略 +
预扣-结算-回补一致/双向差额/余额不足/日上限/幂等/跨日重置/void/并发10路不超扣
- 全量 339 passed
|
2026-09-05 09:05:59 +08:00 |
|
|
tzt
|
b109576707
|
feat(proxy): T-P0 代理层骨架（包结构/DDL/门控挂载/单进程校验）
- gateway/proxy/ 十文件：config（ProxyConfig：元->毫元加载期换算 D-P1、差异化售价、
桶/峰谷/限流/semcache 配置）/ errors（8 类 HTTP 语义异常）/ ledger（四表两索引 DDL，
WAL，ReviewQueue 连接纪律）/ auth·pricing·normalizer·semcache·upstream（§6 签名占位）
/ routes（/proxy/v1/models OpenAI 形状）/ __init__（build_proxy_router 组装点）
- settings DEFAULTS 增 proxy 段（enabled 默认 False，D-P7）
- api.py 首次 include_router（enabled 门控 + 装配失败不拖垮主应用）
- serve.py workers>1 拒绝启动（D-P9：WEB_CONCURRENCY/UVICORN_WORKERS 校验）
- 测试 +4（门控 404/DDL 幂等/毫元换算/池模型列表），全量 322 passed
|
2026-09-05 08:35:31 +08:00 |
|