🤔 왜 RAG가 필요할까 ?

우리는 LLM을 사용하면서 아래와 같이 여러 문제점이 부딪히게 된다.

  1. 지식 최신성 부족(Knowledge Cutoff 문제)
  2. 거짓말쟁이 = 근거 없는 답변 (Hallucination)
  3. 도메인 특화 정보에 접근 불가 (사내 문서)

LLM이 근본적으로 하는 일

LLM은 다음 토큰을 확률적으로 맞추는 모델인데, 여기서 중요한 점은 2가지인데….

  1. LLM의 지식은 학습 시점 이후 업데이트를 하지 않기 때문에 지식이 정적이다.

  2. 추론 시, 외부 세계를 직접 조회하지 않는다. ( 검색 엔진이 아님 ! )