feat(v2): T2 运维层 hw_profile + llama_server 进程管理

This commit is contained in:
tzt
2026-08-30 21:00:52 +08:00
parent 1e51167ea5
commit 78a410b773
9 changed files with 851 additions and 1 deletions
+6
View File
@@ -0,0 +1,6 @@
"""运维层(runtime):本地 llama.cpp 运行时与硬件档位管理。
与 router_system 核心解耦:本包允许使用 httpx/fastapi 等第三方依赖,
用于真实本地模型(llama-server)的进程生命周期管理与硬件适配。
核心协议(交流文本)仍在 router_system 内保持零第三方依赖。
"""