config.example.yaml

server:
  listen: ":8090"
  # upstream_timeout: 10m

auth:
  require_auth: true
  tokens:
    - "${GATEWAY_TOKEN:?set GATEWAY_TOKEN env var}"
    # - "ccg-second-token-for-another-device"
  admin_token: "${GATEWAY_ADMIN_TOKEN:-ccg-admin-token}"

rate_limit_rpm: 0

# Распределённое состояние для нескольких реплик гейтвея (опционально).
# postgres_url приоритетнее redis_url. Без обоих — in-memory.
# state:
#   postgres_url: "postgres://user:pass@localhost:5432/ccg"
#   redis_url: "redis://localhost:6379"
#   prefix: "ccg"

# Автосинк цен моделей с OpenRouter (правила из pricing: всегда приоритетнее)
pricing_sync:
  enabled: false
  interval: 6h
  # endpoint: "https://openrouter.ai/api/v1/models"

# Кэш одинаковых non-stream ответов (для реплеев/оценок). Выкл по умолчанию!
cache:
  enabled: false
  ttl: 10m
  max_entries: 128
  # Семантический кэш (Bifrost-style): похожие промпты -> закэшированный ответ.
  # Нужен любой OpenAI-совместимый embeddings-endpoint.
  semantic:
    enabled: false
    threshold: 0.93        # косинусная близость 0..1
    endpoint: "https://api.openai.com/v1/embeddings"
    model: "text-embedding-3-small"
    key: "${EMBED_KEY}"

  # Только-free routing: 403 на платные модели. См. README раздел "Free tier providers".
# routing:
#   free_only: true
#   free_models:
#     - "openai/*"
#     - "deepseek/*"
#     - "qwen/*"
#     - "mistral/*"
#   rules:
#     - prefix: "free/"
#       strip_prefix: true
#       chain: [orcarouter, teamorouter, nara]
#   clients:
#     - name: dima
#       token: "${DIMA_TOKEN}"
#       allowed_models: ["deepseek/*", "qwen/*"]
#       budget_usd: 5
#       budget_period: monthly

# Guardrails (Portkey-style): блокировка и лимиты на запрос/ответ
guardrails:
  request:
    max_input_tokens: 0            # 0 = выкл; иначе 400 при превышении оценки
    blocked_patterns: []           # regex по тексту запроса -> 400
    #   - '(?i)internal project codename'
    denied_tools: []               # запрещённые имена тулов -> 400
    pii_presets: []                # маскировка в исходящих промптах: email, phone, card
    #   - email
    injection_detection: "off"     # off | flag | block — детект prompt-injection
  response:
    blocked_patterns: []           # regex по тексту ответа
    scan_streams: false            # true = буферизовать стримы и сканировать тоже

# Вебхуки: POST JSON на каждое событие usage/error
# X-CCG-Signature: sha256=hex(hmac_sha256(secret, body))
webhooks: []
#  - url: "https://hooks.example.com/ccg"
#    secret: "${WEBHOOK_SECRET}"
#    events: [usage, error]
#    timeout: 5s

logging:
  file: "data/usage.jsonl"
  ring_size: 500

providers:
  # 9router (OpenAI-совместимый агрегатор, модели подтягиваются автоматически)
  - name: nine-router
    type: openai
    base_url: "https://9router.kitory.lol/v1"
    keys:
      - "${NINE_ROUTER_KEY}"
    timeout: 300s
    weight: 1                  # вес для load_balance-правил
    probe_interval: 0s         # напр. 60s = периодический health-опрос /v1/models
    discover_models: true
    refresh_interval: 15m
    send_stream_options: false    # true = просить у upstream точный usage в стриме
    # Трансформеры исходящих запросов (как transformers в claude-code-router):
    # transformers:
    #   - "max_tokens_cap:8192"          # зажать max_tokens
    #   - "set:temperature=0.3"          # выставить/перезаписать любое поле
    #   - "reasoning_effort:high"        # reasoning_effort для OpenAI-стиля
    #   - "drop_keys:metadata,user"      # выкинуть поля
    #   - "system_prefix:Отвечай кратко."  # дописать в начало system

  # Прямой Anthropic — раскомментируй и задай ANTHROPIC_API_KEY
  # - name: anthropic
  #   type: anthropic
  #   base_url: "https://api.anthropic.com"
  #   keys:
  #     - "${ANTHROPIC_API_KEY}"
  #   timeout: 300s

  # Любой Anthropic-совместимый прокси (9router в этом режиме, CLIProxyAPI, ...)
  # - name: nine-router-compat
  #   type: anthropic-compat
  #   base_url: "https://9router.kitory.lol"
  #   auth_style: bearer          # или x-api-key
  #   keys:
  #     - "${NINE_ROUTER_KEY}"
  #   timeout: 300s

  # AWS Bedrock (Anthropic-модели через InvokeModel)
  # - name: bedrock
  #   type: bedrock
  #   region: us-east-1
  #   keys:
  #     - "${AWS_ACCESS_KEY_ID}:${AWS_SECRET_ACCESS_KEY}"   # опц. третий сегмент: session token
  #   timeout: 300s
  #   models:
  #     - "us.anthropic.claude-sonnet-4-20250514-v1:0"

  # Google Vertex AI (Express API-key, bearer-токен или сервис-аккаунт)
  # - name: vertex
  #   type: vertex
  #   auth_style: api-key         # api-key (?key=) | bearer | sa (сервис-аккаунт)
  #   keys:
  #     - "${VERTEX_API_KEY}"
  #   timeout: 300s
  #
  # Вариант с сервис-аккаунтом GCP (JWT -> OAuth, токен рефрешится сам):
  # - name: vertex-sa
  #   type: vertex
  #   auth_style: sa
  #   service_account_json: "${GCP_SA_JSON}"   # JSON ключа целиком ИЛИ путь к файлу

routing:
  alias_claude_prefix: true
  default_chain:
    - nine-router
  # Сценарная маршрутизация (как в claude-code-router):
  # scenarios:
  #   long_context:              # запросы > N токенов уходят на свою цепочку
  #     threshold_tokens: 60000
  #     chain: [big-context-provider]
  #   image:                     # запросы с картинками
  #     chain: [vision-provider]
  #   thinking:                  # thinking/extended-thinking запросы
  #     chain: [thinker-provider]  rules:
    # Комбо-модель с балансировкой по латентности:
    # - prefix: "combo/fast"
    #   balance_strategy: latency   # weighted | least_busy | latency
    #   targets:
    #     - { provider: nine-router, model: ag/gemini-3.7-flash-low }
    #     - { provider: nine-router, model: ag/gpt-oss-120b-medium }
    # model "anthropic/claude-*" уходит напрямую в Anthropic (если провайдер включён)
    # - prefix: "anthropic/"
    #   strip_prefix: true
    #   chain: [anthropic]

# Именованные клиенты с бюджетом (LiteLLM virtual keys / uni-api).
# Бюджет исчерпан -> 429 budget exceeded до конца периода. Расход виден в /admin/tokens.
# clients:
#   - name: anton
#     token: "${GATEWAY_TOKEN}"
#   - name: dima
#     token: "${TOKEN_FOR_DIMA}"
#     budget_usd: 20
#     budget_period: monthly   # daily | weekly | monthly
#     allowed_models: ["glm*", "combo/*"]  # пусто = все модели
#     tpm: 200000             # потолок токенов в минуту (0 = выкл)

pricing:
  - pattern: "claude-opus*"
    input_per_mtok: 15.0
    output_per_mtok: 75.0
    cache_read_per_mtok: 1.5
    cache_write_per_mtok: 18.75
  - pattern: "claude-sonnet*"
    input_per_mtok: 3.0
    output_per_mtok: 15.0
    cache_read_per_mtok: 0.3
    cache_write_per_mtok: 3.75
  - pattern: "claude-haiku*"
    input_per_mtok: 0.8
    output_per_mtok: 4.0
    cache_read_per_mtok: 0.08
    cache_write_per_mtok: 1.0