feat(v2): T2 运维层 hw_profile + llama_server 进程管理
This commit is contained in:
@@ -0,0 +1,6 @@
|
||||
"""运维层(runtime):本地 llama.cpp 运行时与硬件档位管理。
|
||||
|
||||
与 router_system 核心解耦:本包允许使用 httpx/fastapi 等第三方依赖,
|
||||
用于真实本地模型(llama-server)的进程生命周期管理与硬件适配。
|
||||
核心协议(交流文本)仍在 router_system 内保持零第三方依赖。
|
||||
"""
|
||||
Reference in New Issue
Block a user