이번 블로그에서는 AI가 외부 문서를 참고해 답변하는 기술인 RAG(Retrieval-Augmented Generation)의 원리에 대한 글을 작성해 보겠습니다.들어가며ChatGPT나 Claude 같은 LLM에게 "우리 회사 규정이 어떻게 돼?"라고 물어보면 어떻게 될까요? 당연히 모릅니다. LLM은 학습 시점까지 공개된 데이터로만 학습되었기 때문에, 사내 문서나 최신 정보처럼 학습 데이터에 없는 내용은 알 수가 없습니다. 더 큰 문제는 모르는 내용을 모른다고 하지 않고 그럴듯하게 지어내는 경우가 있다는 점입니다. 이를 할루시네이션(Hallucination)이라고 합니다. 이 글에서는 이 문제를 해결하는 대표적인 방법인 RAG가 어떤 원리로 동작하는지, 그리고 Python으로 직접 간단한 RAG를 구현..
