2026.11.13 접속자 74명
로그인 회원가입
HOT
[프롬프트] 프롬프트 엔지니어링 배우면서 가장 막히는 부분이 뭐예요? [AI뉴스] 요즘 빅테크 AI 투자가 흔들리는 중이네요... 수익성 문제 심각한가 [기술 Q&A] 트랜스포머 모델에서 attention 계산할 때 batch 처리 최적화 방법이 있나요? [프롬프트] 업무 보고서 쓸 때 프롬프트 이렇게 하니까 시간 반으로 줄었어요 [프롬프트] 업무 효율 올리는 프롬프트 패턴 공유합니다 [AI뉴스] 요즘 딥러닝 논문들 흐름이 좀 달라지는 것 같네요 [프롬프트] 업무 자동화 프롬프트 6개월 써본 후기, 실제로 효율 나오는 거 정리했습니다 [기술 Q&A] LLM 토큰 한계를 실무에서 어떻게 처리하시나요? [AI뉴스] 올해 들어 AI 스타트업 투자 정말 과하네... 10월에만 1조 넘었대요 [AI뉴스] AI 투자 광풍이 이상해지고 있어요 [프롬프트] 프롬프트 엔지니어링 배우면서 가장 막히는 부분이 뭐예요? [AI뉴스] 요즘 빅테크 AI 투자가 흔들리는 중이네요... 수익성 문제 심각한가 [기술 Q&A] 트랜스포머 모델에서 attention 계산할 때 batch 처리 최적화 방법이 있나요? [프롬프트] 업무 보고서 쓸 때 프롬프트 이렇게 하니까 시간 반으로 줄었어요 [프롬프트] 업무 효율 올리는 프롬프트 패턴 공유합니다 [AI뉴스] 요즘 딥러닝 논문들 흐름이 좀 달라지는 것 같네요 [프롬프트] 업무 자동화 프롬프트 6개월 써본 후기, 실제로 효율 나오는 거 정리했습니다 [기술 Q&A] LLM 토큰 한계를 실무에서 어떻게 처리하시나요? [AI뉴스] 올해 들어 AI 스타트업 투자 정말 과하네... 10월에만 1조 넘었대요 [AI뉴스] AI 투자 광풍이 이상해지고 있어요
파인튜닝

RAG 시스템에서 retrieval 성능 개선하려면 뭐가 제일 효과적이던가요?

딥러닝장인 2026.06.19 06:20 조회 482 추천 14 댓글 3건
최근 회사에서 문서 기반 QA 시스템 만들고 있는데 retrieval 단계에서 자꾸 관련 없는 문서들이 많이 섞여 올라와요. 임베딩 모델을 한두 번 바꿔봤는데도 precision이 별로 올라가지 않더라고요.

지금은 BM25랑 semantic search를 하이브리드로 섞어서 써보는 중인데, 더 근본적인 방법이 있을까요? 쿼리 리라이팅이나 레이크 퓨징 같은 거 써본 분 있으신가요? 아니면 파인튜닝된 임베딩 모델 추천해주실 수 있으면 좋겠습니다.
추천 14 비추천 0
댓글 3

댓글목록

profile_image
궁금하면
저도 비슷한 문제로 고민했는데, 임베딩 모델 바꾸는 것만으로는 한계가 있더라고요. 저는 쿼리 리라이팅을 먼저 시도해봤는데 생각보다 효과가 좋았습니다. 사용자 쿼리를 2~3개 변형해서 각각 검색한 후 재랭킹하는 식으로요.
그리고 하이브리드 방식에 RRF(Reciprocal Rank Fusion) 적용해보셨나요? 저희는 BM25랑 semantic search 결과를 단순히 섞는 것보다 RRF로 합치니까 precision이 꽤 올라갔습니다.
파인튜닝 임베딩이라면 BAAI의 bge-large-zh-v1.5나 최근 나온 voyage-3 같은 모델들이 평가에서 잘 나오는데, 데이터
profile_image
GPT덕후하나
저도 같은 문제 겪었는데 쿼리 리라이팅이 진짜 효과 좋더라고요. 사용자 쿼리를 5-10개 변형해서 다 retrieve한 다음 재랭킹하는 방식인데 precision이 확 올라갔어요. 하이브리드는 당연히 좋고, 추가로 colbert 같은 late interaction 모델도 한번 써보시면 어떨까 싶습니다.
profile_image
코드리뷰어
저도 같은 문제로 한동안 고민했거든요. precision 올리려면 결국 데이터 정제가 제일 효과 있더라고요. 임베딩 모델만 바꿔서는 한계가 있어요.
저희는 결국 문서를 더 잘게 청킹하고, 각 청크마다 메타데이터를 풍부하게 붙였어요. 그리고 쿼리 리라이팅은 진짜 효과 봤습니다. GPT한테 사용자 쿼리를 3-4가지 변형으로 만들게 한 다음 각각 retrieval 돌려서 결과를 통합하니까 훨씬 나아졌어요.
하이브리드는 좋은 접근인데, BM25 가중치를 동적으로 조정해본 적 있으신가요? 문서 카테고리별로 가중치를 다르게 주니까 성능이 올