질문을 그대로 검색하지 않는 이유 - 질문 재정의 단계

https://honge1122.tistory.com/143

[RAG 채널별 설계] 세션 기반 RAG vs 단건 질의 RAG, 운영하면서 생긴 차이들

 

셔틀버스 20분 전, 이 글을 쓰게 된 이유

PPT를 준비하다 보니 기능을 설명하는 것보다

먼저 "왜 이런 단계를 두었는지"를 이해시키는 게 우선이라는 생각이 들었다.

 

이 서비스는 질문을 받아 내부 지식을 검색하여, 그 지식을 기반으로 응답을 생성하는 구조다.

사실 흐름만 놓고 보면 단순하다. 

질문→검색 →생성

하지만 그 사이에 여러 전처리 과정이 들어가 있다.

재정의도 그 중 하나다.

 

청자:

 - 같은 팀원 개발자들

 - LLM, 생성 모델 기반 설계에 익숙하지 않은 개발자

특이사항:

1. 해당 서비스는 내가 처음부터 구현함. 따라서, 구조적 선택의 배경을 설명하지 않으면 단순히 “복잡한 설계”처럼 보일 수 있음!

2. 청자는 간략하게 어떤 단계를 거쳐 응답이 생성되는지는 알고 있으나, 그 과정을 깊이 이해하지 못한 상태

 

그래서 먼저 가장 근본적인 질문부터 정리해 보기로 했다.

"우리는 왜 질문을 그대로 사용하지 않는가?"

 

🧩 왜 이 단계를 넣었는지?

자유 질의 기반 서비스에서 가장 먼저 부딪히는 문제는
사용자의 질문이 항상 “완전하지 않다”는 점이다.

 

예를 들어 이런 질문이 들어온다고 가정해보자:

00 가입하고 싶은데
B 서비스 반영이 되나?

 

사람 입장에서는 자연스럽다.

하지만 검색 시스템 입장에서는 정보가 부족하다.

• 정확히 어떤 상황의 가입인지?
• 기존 B 서비스 유지인지, 신규 적용인지?
• 특정 정책 조건이 있는지?
• 꼭 알아야 할 예외사례 등이 존재하는지?

이 상태로 문서를 검색하면

조건이 다른 문서까지 같이 끌려올 가능성이 높다.
결과적으로 검색 정확도가 떨어질 수밖에 없다.

그래서 질문을 그대로 검색에 사용하지 않는다.

 

💭 우리가 하는 일

의도 파악 단계에서는
사용자의 질문을 검색에 적합한 형태로 재정의한다.

 

위 예시는 다음과 같이 정리된다.

00 가입 시 B 서비스 혜택이 유지 또는 재적용되는지 여부

 

여기서 중요한 점은 하나다.

 

이 단계는 답을 만드는 과정이 아니다.

검색 정확도를 높이기 위한 전처리 과정이다.

 

당연하게도 질문을 더 명확하게 만들어야 검색 결과도 안정된다!

 

🔄 호출 경로에 따른 차이

이 서비스는 동일한 엔진을 사용하지만 호출 경로에 따라 입력 구성이 달라진다.

• 단일 질문 기준으로 처리하는 경우
• 동일 세션의 이전 질문을 병합해 처리하는 경우

두 경우 모두 질문 재정의는 수행한다.

다만 입력 데이터가 다르기 때문에

최종적으로 정리되는 결과 문장이 달라질 수 있다.

 

세선 맥락이 포함되면 더 구체적인 질문이 될 가능성이 매우 높고

단일 질문만 있을 경우에는 그 범위 안에서만 재정의된.

 

📌 한 줄 정리

질문 재정의는 
사용자의 불완전한 질문을 검색에 적합한 문장으로 정리하는 과정이다.

 

이 과정을 거쳐야

이후 단계에서 보다 정확한 문서를 찾을 수 있다.

 

이 글을 쓰면서도 계속 고민했다.

이렇게 설명하면 팀원들이 납득할까?

괜히 단계를 더 복잡하게 보이게 만드는 건 아닐까?

 

그래도 결국, 구조 설명 전에

왜 이런 선택을 했는지부터 공유하는 게 맞다고 생각했다!(너무나도 당연함!!)

 

적어도 이 단계가 "괜히 넣은 단계"는 아니라는 점은

분명히 전달됐으면 한다..ㅎ 일이 꽤 있는데.. PPT는 언제 만드나..