Hyungi Ahn
ed85dce490
ollama-gpu 백엔드의 models 배열에서 gemma4:e4b-it-q8_0 1 항목 제거. bge-m3 embedding entry 는 보존 (ollama 컨테이너는 bge-m3 embedding owner). PR #20 (2026-05-14) 이후 chat candidate 는 mlx-mac (priority 1) 단일 라 실제 호출은 이미 Mac mini 26B 로 가고 있었음 (silent drift). 이번 정리는 inventory consistency 목적. 검증: - gpu-hub-api restart 후 Application startup complete + health 200 - backends.json.pre-llm-reframe-cleanup.20260515 백업 보존 plan: ~/.claude/plans/4-stateless-dongarra.md
36 lines
636 B
JSON
36 lines
636 B
JSON
[
|
|
{
|
|
"id": "ollama-gpu",
|
|
"type": "ollama",
|
|
"url": "http://ollama:11434",
|
|
"models": [
|
|
{
|
|
"id": "bge-m3",
|
|
"capabilities": [
|
|
"embed"
|
|
],
|
|
"priority": 1
|
|
}
|
|
],
|
|
"access": "all",
|
|
"rate_limit": null
|
|
},
|
|
{
|
|
"id": "mlx-mac",
|
|
"type": "openai-compat",
|
|
"url": "http://192.168.1.122:8800",
|
|
"models": [
|
|
{
|
|
"id": "gemma-4-26b-a4b",
|
|
"backend_model_id": "mlx-community/gemma-4-26b-a4b-it-8bit",
|
|
"capabilities": [
|
|
"chat"
|
|
],
|
|
"priority": 1
|
|
}
|
|
],
|
|
"access": "all",
|
|
"rate_limit": null
|
|
}
|
|
]
|