RAG (Naive RAG)

<aside> ✏️

LLM의 환각(hallucination)을 줄이기 위해 사용자의 의도 맞는 정보를 context로 보강하여 알맞은 응답을 생성하게 하는 방법론

</aside>

LLM은 최신 정보에 대해서는 환각현상(Hallucination)을 일으킨다

트랜스포머라는 모델은 단순히 다음 단어를 예측하는 기계

RAG는 LLM이 모르는 정보에 대한 답지를 주고 대답하게 만드는 시스템

좋은 RAG 시스템을 구축하기 위해서는 다양한 요소 고려

파인튜닝 대비 적은 기회비용으로 환각현상 제어가 용이하여 좋은 선택지

그러나 단순한 RAG 방식으로는 원하는 성능 달성이 어려움

Advanced RAG, Modular RAG

Modular RAG: Transforming RAG Systems into LEGO-like...

<aside> ✏️

Naive RAG의 문제점은 매우 다양한 방법으로 해결 시도가 이뤄지고 있다.

</aside>

Advanced RAG

Modular RAG

최선의 청킹 전략은 내가 가진 문서의 특성에 알맞게 실험하여 얻어짐

적은 정보를 담은 쿼리를 확장하여 검색 성능을 향상시키는 것은 필수

검색기를 다양하게 구성하여 검색 결과의 정확성을 올릴 수 있음