장인테크 JanginTech

https://honge1122.tistory.com/143 [RAG 채널별 설계] 세션 기반 RAG vs 단건 질의 RAG, 운영하면서 생긴 차이들🧩 배경회사에서 내부 지식문서를 기반으로 답변을 생성하는 자유질의 서비스를 운영하고 있다.흥미로운 점은 같은 파이프라인을 공유하면서도 서로 다른 사용 채널에서 동작 방식이 조금씩honge1122.tistory.com 셔틀버스 20분 전, 이 글을 쓰게 된 이유PPT를 준비하다 보니 기능을 설명하는 것보다먼저 "왜 이런 단계를 두었는지"를 이해시키는 게 우선이라는 생각이 들었다. 이 서비스는 질문을 받아 내부 지식을 검색하여, 그 지식을 기반으로 응답을 생성하는 구조다.사실 흐름만 놓고 보면 단순하다. 질문→검색 →생성하지만 그 사이에 여러 전처리 과정이 들..

2026-03-02: 작성 (03일 배포)2026-03-03 18시 27분: 단어 '채널'을 '사용 서비스'로 수정 🧩 배경회사에서 내부 지식문서를 기반으로 답변을 생성하는 자유질의 서비스를 운영하고 있다.흥미로운 점은 같은 파이프라인을 공유하면서도 서로 다른 서비스에서 동작 방식이 조금씩 다르다는 거다.외부인의 입장에서 무슨 소리인가 싶을 수도 있겠지만서비스별로 사용 목적에 차이가 있다보니히스토리 사용 여부, 필터 정책, 검색 결과 개수(K라고 하겠다), 프롬프트 커스터마이징 같은 요소들이 자연스럽게 갈라져 있었다. 이에 대한 설명을 듣고 싶어 하는 팀원들에게 로직을 설명하기로 했다.당연하게도 팀원들이 다 같은 일을 하는 것은 아닌 데다, 이 업무는 내가 전적으로 맡았다정작 내가 “왜 이렇게 설계됐..