infosave2007
9c15109f26
Docker / publish (push) Canceled after 0s
Release / crates-io (push) Canceled after 0s
Release / release (macos-14, aarch64-apple-darwin) (push) Canceled after 0s
Release / release (ubuntu-latest, x86_64-unknown-linux-gnu) (push) Canceled after 0s
Release / release (windows-latest, x86_64-pc-windows-msvc) (push) Canceled after 0s
router.allaigate.com now resolves and serves a valid certificate, so the hosted routing API no longer has to be reached by bare IP with certificate verification switched off. Make https://router.allaigate.com the default [router].url with verify_tls = true. Existing configs still pointing at 138.226.222.209 (with or without a scheme or a trailing slash) are moved to the hostname on load and have verification restored, then saved: it is the same machine, and this is the difference between a verified connection and a blind one. A self-hosted router URL is left untouched. README, docs/ROUTER.md (both languages), config/gateway.example.toml and bench/accuracy.py follow. Verified live: the migration rewrites a legacy config on startup, admin health reports the hostname reachable over verified TLS (389 ms), and real requests route through it - "math"/medium 0.416 and "translation"/low 0.268 with route_source=router.
83 lines
4.1 KiB
Markdown
83 lines
4.1 KiB
Markdown
*Read this in [English](ROUTER.md).*
|
||
|
||
# Роутер (allaigate)
|
||
|
||
Cortiq Gateway — тонкий и быстрый прокси; **интеллект**, решающий *какой* модели
|
||
отдать запрос, живёт в отдельном **роутере**. Когда вы шлёте `model: "cortiq-auto"`,
|
||
шлюз вызывает `POST /v1/route` роутера, получает **тип задачи** и **полосу сложности**
|
||
и выбирает модель из вашего пула.
|
||
|
||
> Роутинг опционален. Pinned-модель (`model: "gpt-4o-mini"`) роутер **не требует** —
|
||
> шлюз всё равно полезен как универсальный прокси. Роутер делает его *умным*.
|
||
|
||
## Два способа получить роутер
|
||
|
||
1. **Хостовый — [allaigate](https://api.allaigate.com/)** (быстрее всего начать).
|
||
Управляемый семантический роутер: ~94% точности на разделении близких типов задач,
|
||
patent-pending, privacy-first. Ключ — на сайте (см. акцию ниже).
|
||
2. **Свой — `cortiq-router`.** Поднимите собственный классификатор и укажите его в шлюзе.
|
||
|
||
## 🎉 Акция (launch)
|
||
|
||
Сейчас у allaigate идёт стартовая акция:
|
||
|
||
> **Starter-ключ за $1** — промокод **`LAUNCH1`** на **https://api.allaigate.com/**
|
||
> (число активаций ограничено).
|
||
|
||
Как получить ключ: введите e-mail и промокод на главной — ключ (`cortiq_…`) сгенерируется
|
||
и покажется вам.
|
||
|
||
### Тарифы (на момент написания — актуальные условия смотрите на сайте)
|
||
|
||
| План | Цена | Включено решений | Rate limit | Сверх лимита |
|
||
|---|---|---|---|---|
|
||
| **Starter** | **$1/мес** (`LAUNCH1`) | безлимит | 60/мин | — |
|
||
| Developer | $9/мес | 100k | 120/мин | $0.10 / 1k |
|
||
| Pro | $49/мес | 1M | 600/мин | $0.05 / 1k |
|
||
| Scale | $299/мес | 10M | 3000/мин | $0.02 / 1k |
|
||
|
||
## Подключение шлюза к хостовому роутеру
|
||
|
||
```toml
|
||
[router]
|
||
url = "https://router.allaigate.com" # routing API allaigate (значение по умолчанию)
|
||
verify_tls = true # валидный сертификат — проверку не выключаем
|
||
taxonomy_id = "data-assistant"
|
||
api_key_env = "CORTIQ_ROUTER_KEY" # ваш ключ cortiq_…
|
||
timeout_ms = 15000 # запас под oracle-эскалацию на сложных запросах
|
||
```
|
||
|
||
```bash
|
||
export CORTIQ_ROUTER_KEY=cortiq_your_key
|
||
cortiq-gateway # --config <путь> нужен, только если конфиг лежит в другом месте
|
||
```
|
||
|
||
## Контракт API
|
||
|
||
`POST {router}/v1/route`, `Authorization: Bearer cortiq_…`:
|
||
|
||
```jsonc
|
||
// запрос
|
||
{ "input": { "text": "Write a Python function to reverse a list" }, "taxonomy_id": "data-assistant" }
|
||
|
||
// ответ
|
||
{
|
||
"decision": {
|
||
"task_label": "code",
|
||
"confidence": 0.99,
|
||
"complexity": { "tier": "low", "score": 0.27 }
|
||
}
|
||
}
|
||
```
|
||
|
||
Шлюз сопоставляет `complexity.tier` (`low`/`medium`/`high`) с таблицей `[routing]` и
|
||
выбирает модель. На сложном/неоднозначном запросе роутер может эскалировать к oracle-LLM
|
||
(несколько секунд) для более точного решения — подберите `timeout_ms` соответственно.
|
||
См. [ROUTING.ru.md](ROUTING.ru.md).
|
||
|
||
## Проверьте точность сами
|
||
|
||
`bench/accuracy.py` прогоняет размеченный набор промптов через живой роутер — см.
|
||
[BENCHMARKS.md](../BENCHMARKS.md). В нашем прогоне роутер дал **100% (37/37)** на
|
||
естественных промптах против 32% у keyword-эвристики.
|