fix: route 시 원본 메시지를 Gemma에 전달 — EXAONE이 답변까지 미리 작성하는 문제
EXAONE classifier가 route prompt 필드에 답변을 미리 작성해서 Gemma가 그것을 사용자 입력으로 받아 메타 응답을 하는 문제. 원본 job.message를 그대로 Gemma에 전달하도록 변경. Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>
This commit is contained in:
@@ -366,7 +366,8 @@ async def run(job: Job) -> None:
|
||||
elif action == "route" and settings.pipeline_enabled and backend_registry.is_healthy("reasoner"):
|
||||
# === ROUTE: Gemma reasoning ===
|
||||
reasoning_model = backend_registry.reasoner.model
|
||||
rewritten_message = (route_prompt or job.message)[:MAX_PROMPT_LENGTH]
|
||||
# 원본 사용자 메시지를 그대로 전달 (route_prompt는 신뢰 안 함 — EXAONE이 답변까지 미리 작성하는 문제)
|
||||
rewritten_message = job.message[:MAX_PROMPT_LENGTH]
|
||||
job.rewritten_message = rewritten_message
|
||||
|
||||
# Gemma busy 안내 (Hybrid 부하 판단 — inference 강제 측정 안 함)
|
||||
|
||||
Reference in New Issue
Block a user