7 lines
342 B
Python
7 lines
342 B
Python
"""运维层（runtime）：本地 llama.cpp 运行时与硬件档位管理。
|
|
|
|
与 router_system 核心解耦：本包允许使用 httpx/fastapi 等第三方依赖，
|
|
用于真实本地模型（llama-server）的进程生命周期管理与硬件适配。
|
|
核心协议（交流文本）仍在 router_system 内保持零第三方依赖。
|
|
"""
|