fix(deploy): TEI 1.5 → 1.7 (1.5는 reranker 모델 다운로드 버그)
TEI 1.5 첫 시도 시 'builder error: relative URL without a base' 에러로 BAAI/bge-reranker-v2-m3 metadata 다운로드 실패. TEI 1.5의 알려진 버그. 해결: TEI 1.7로 업그레이드 (sequence-classification reranker 모델 지원 개선).
This commit is contained in:
@@ -48,7 +48,7 @@ services:
|
|||||||
# Phase 1.3: bge-reranker-v2-m3 (TEI) — internal only, fastapi에서 reranker:80으로 호출
|
# Phase 1.3: bge-reranker-v2-m3 (TEI) — internal only, fastapi에서 reranker:80으로 호출
|
||||||
# fastapi가 depends_on 안 함 → 단독 시작 가능, 없어도 fastapi 동작 (rerank=false fallback)
|
# fastapi가 depends_on 안 함 → 단독 시작 가능, 없어도 fastapi 동작 (rerank=false fallback)
|
||||||
reranker:
|
reranker:
|
||||||
image: ghcr.io/huggingface/text-embeddings-inference:1.5
|
image: ghcr.io/huggingface/text-embeddings-inference:1.7
|
||||||
container_name: hyungi_document_server-reranker-1
|
container_name: hyungi_document_server-reranker-1
|
||||||
expose:
|
expose:
|
||||||
- "80"
|
- "80"
|
||||||
|
|||||||
Reference in New Issue
Block a user