fix: route 시 원본 메시지를 Gemma에 전달 — EXAONE이 답변까지 미리 작성하는 문제

EXAONE classifier가 route prompt 필드에 답변을 미리 작성해서
Gemma가 그것을 사용자 입력으로 받아 메타 응답을 하는 문제.
원본 job.message를 그대로 Gemma에 전달하도록 변경.

Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>
This commit is contained in:
Hyungi Ahn
2026-04-07 08:26:39 +09:00
parent cc792eddbb
commit 04027758ec

View File

@@ -366,7 +366,8 @@ async def run(job: Job) -> None:
elif action == "route" and settings.pipeline_enabled and backend_registry.is_healthy("reasoner"):
# === ROUTE: Gemma reasoning ===
reasoning_model = backend_registry.reasoner.model
rewritten_message = (route_prompt or job.message)[:MAX_PROMPT_LENGTH]
# 원본 사용자 메시지를 그대로 전달 (route_prompt는 신뢰 안 함 — EXAONE이 답변까지 미리 작성하는 문제)
rewritten_message = job.message[:MAX_PROMPT_LENGTH]
job.rewritten_message = rewritten_message
# Gemma busy 안내 (Hybrid 부하 판단 — inference 강제 측정 안 함)