64322e4f6f
- llm_gate.py: MLX single-inference 전역 semaphore (analyzer/evidence/synthesis 공유) - search_pipeline.py: run_search() 추출, /search 와 /ask 단일 진실 소스 - evidence_service.py: Rule + LLM span select (EV-A), doc-group ordering, span too-short 자동 확장(<80자→120자), fallback 은 query 중심 window 강제 - synthesis_service.py: grounded answer + citation 검증 + LRU 캐시(1h/300), refused 처리, span_text ONLY 룰 (full_snippet 프롬프트 금지) - /api/search/ask: 15s timeout, 9가지 failure mode + 한국어 no_results_reason - rerank_service: rerank_score raw 보존 (display drift 방지) - query_analyzer: _get_llm_semaphore 를 llm_gate.get_mlx_gate 로 위임 - prompts: evidence_extract.txt, search_synthesis.txt (JSON-only, example 포함) config.yaml / docker / ollama / infra_inventory 변경 없음. plan: ~/.claude/plans/quiet-meandering-nova.md Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>
77 lines
2.7 KiB
Plaintext
77 lines
2.7 KiB
Plaintext
You are an evidence span extractor. Respond ONLY in JSON. No markdown, no explanation.
|
|
|
|
## Task
|
|
|
|
For each numbered candidate, extract the most query-relevant span from the original text (copy verbatim, 50-200 chars) and rate relevance 0.0~1.0. If the candidate does not directly answer the query, set span=null, relevance=0.0, skip_reason.
|
|
|
|
## Output Schema
|
|
{
|
|
"items": [
|
|
{
|
|
"n": 1,
|
|
"span": "...",
|
|
"relevance": 0.0,
|
|
"skip_reason": null
|
|
}
|
|
]
|
|
}
|
|
|
|
## Rules
|
|
- `n`: candidate 번호 (1-based, 입력 순서와 동일). **모든 n을 반환** (skip된 것도 포함).
|
|
- `span`: 원문에서 **그대로 복사한** 50~200자. 요약/변형 금지. 원문에 없는 단어는 절대 포함하지 말 것. 여러 문장이어도 무방.
|
|
- 관련 span이 없으면 `span: null`, `relevance: 0.0`, `skip_reason`에 한 줄 사유.
|
|
- `relevance`: 0.0~1.0 float
|
|
- 0.9+ query에 직접 답함
|
|
- 0.7~0.9 강한 연관
|
|
- 0.5~0.7 부분 연관
|
|
- <0.5 약한/무관 (fallback에서 탈락)
|
|
- `skip_reason`: span=null 일 때만 필수. 예: "no_direct_relevance", "off_topic", "generic_boilerplate"
|
|
- **원문 그대로 복사 강제**: 번역/paraphrase/요약 모두 금지. evidence span은 citation 원문이 되어야 한다.
|
|
|
|
## Example 1 (hit)
|
|
query: `산업안전보건법 제6장 주요 내용`
|
|
candidates:
|
|
[1] title: 산업안전보건법 해설 / text: 제6장은 "안전보건관리체제"에 관한 장으로, 사업주의 안전보건관리책임자 선임 의무와 관리감독자 지정 등을 규정한다. 제15조부터 제19조까지 구성된다...
|
|
[2] title: 회사 복지 규정 / text: 직원의 연차휴가 사용 규정과 경조사 지원 내용을 담고 있다...
|
|
|
|
→
|
|
{
|
|
"items": [
|
|
{
|
|
"n": 1,
|
|
"span": "제6장은 \"안전보건관리체제\"에 관한 장으로, 사업주의 안전보건관리책임자 선임 의무와 관리감독자 지정 등을 규정한다. 제15조부터 제19조까지 구성된다",
|
|
"relevance": 0.95,
|
|
"skip_reason": null
|
|
},
|
|
{
|
|
"n": 2,
|
|
"span": null,
|
|
"relevance": 0.0,
|
|
"skip_reason": "off_topic"
|
|
}
|
|
]
|
|
}
|
|
|
|
## Example 2 (partial)
|
|
query: `Python async best practice`
|
|
candidates:
|
|
[1] title: FastAPI tutorial / text: FastAPI supports both async and sync endpoints. For I/O-bound operations, use async def with await for database and HTTP calls. Avoid blocking calls in async functions or use run_in_executor...
|
|
|
|
→
|
|
{
|
|
"items": [
|
|
{
|
|
"n": 1,
|
|
"span": "For I/O-bound operations, use async def with await for database and HTTP calls. Avoid blocking calls in async functions or use run_in_executor",
|
|
"relevance": 0.82,
|
|
"skip_reason": null
|
|
}
|
|
]
|
|
}
|
|
|
|
## Query
|
|
{query}
|
|
|
|
## Candidates
|
|
{numbered_candidates}
|