hyungi
a7b8f15870
PR-MacBook-RAG-Backend-1 — /api/search/ask 의 명시 backend 선택 진입점.
핵심 invariant (정정 4):
- backend 미지정 = Gemma Mac mini default, 응답 contract 변동 0
- backend="qwen-macbook" 명시 opt-in 만 MacBook M5 Max mlx-vlm.server 호출
- MacBook unavailable 시 HTTP 503 + error_reason=macbook_unavailable
- 자동 fallback 절대 금지 — 실패 path 에서 Gemma backend.generate() 호출 0
backend dispatcher (services/llm/):
- BackendBase / GemmaMacMiniBackend / QwenMacBookBackend / BackendUnavailable
- Qwen backend 는 Mac mini llm_gate 점유 X, 별 Semaphore(1) — llm_gate
docstring 의 single-inference 영구 룰은 같은 endpoint 한정으로 scope 명시
- httpx Connect/Read/Pool/Timeout/5xx → BackendUnavailable, 4xx 전파
synthesis_service.py:
- backend 인자 추가, status="backend_unavailable" 신규
- cache key 에 backend_name 포함 (qwen ↔ gemma 캐시 충돌 차단)
config:
- search.ask.backend.{macmini_url, macbook_url, macbook_model,
timeout_connect_s=1, timeout_read_s=30}
- MacBook endpoint = http://100.118.112.84:8810 (M5 Max Tailscale bind)
tests (14 신규):
- tests/services/test_backend_dispatcher.py (9): dispatcher 정합성 + Qwen
generate path (mock 200 / dead port / 5xx / 4xx) + cache identity
- tests/api/test_search_ask_macbook_503.py (5): 정정 4 핵심 invariant.
backend=qwen-macbook 비가용 시 gemma.generate.assert_not_called()
기존 ask 회귀 0 (test_ask_eval_auth 9건 등 85건 모두 PASS).
Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
25 lines
623 B
Python
25 lines
623 B
Python
"""PR-MacBook-RAG-Backend-1: /api/search/ask backend dispatcher.
|
|
|
|
이 패키지는 ask 의 LLM 호출자만 사용한다. 다른 generation 경로 (classifier /
|
|
verifier / evidence / triage / digest 등) 는 본 dispatcher 를 통과하지 않는다 —
|
|
모두 Mac mini ai.primary 로 고정.
|
|
"""
|
|
|
|
from .backends import (
|
|
BackendBase,
|
|
BackendUnavailable,
|
|
GemmaMacMiniBackend,
|
|
QwenMacBookBackend,
|
|
get_backend,
|
|
reset_backends_for_test,
|
|
)
|
|
|
|
__all__ = [
|
|
"BackendBase",
|
|
"BackendUnavailable",
|
|
"GemmaMacMiniBackend",
|
|
"QwenMacBookBackend",
|
|
"get_backend",
|
|
"reset_backends_for_test",
|
|
]
|