hyungi/gpu-services
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

fix: route 시 원본 메시지를 Gemma에 전달 — EXAONE이 답변까지 미리 작성하는 문제

Browse Source 
EXAONE classifier가 route prompt 필드에 답변을 미리 작성해서
Gemma가 그것을 사용자 입력으로 받아 메타 응답을 하는 문제.
원본 job.message를 그대로 Gemma에 전달하도록 변경.

Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>
This commit is contained in:
Hyungi Ahn
2026-04-07 08:26:39 +09:00
parent cc792eddbb
commit 04027758ec
1 changed files with 2 additions and 1 deletions
Download Patch File Download Diff File Expand all files Collapse all files

3
nanoclaude/services/worker.py
View File

@@ -366,7 +366,8 @@ async def run(job: Job) -> None:
elif action == "route" and settings.pipeline_enabled and backend_registry.is_healthy("reasoner"): elif action == "route" and settings.pipeline_enabled and backend_registry.is_healthy("reasoner"):
# === ROUTE: Gemma reasoning === # === ROUTE: Gemma reasoning ===
reasoning_model = backend_registry.reasoner.model reasoning_model = backend_registry.reasoner.model
rewritten_message = (route_prompt or job.message)[:MAX_PROMPT_LENGTH] # 원본 사용자 메시지를 그대로 전달 (route_prompt는 신뢰 안 함 — EXAONE이 답변까지 미리 작성하는 문제)
rewritten_message = job.message[:MAX_PROMPT_LENGTH]
job.rewritten_message = rewritten_message job.rewritten_message = rewritten_message
# Gemma busy 안내 (Hybrid 부하 판단 — inference 강제 측정 안 함) # Gemma busy 안내 (Hybrid 부하 판단 — inference 강제 측정 안 함)