2026/10 5

RAG란 무엇일까? AI가 외부 문서를 참고해 답변하는 원리

이번 블로그에서는 AI가 외부 문서를 참고해 답변하는 기술인 RAG(Retrieval-Augmented Generation)의 원리에 대한 글을 작성해 보겠습니다.들어가며ChatGPT나 Claude 같은 LLM에게 "우리 회사 규정이 어떻게 돼?"라고 물어보면 어떻게 될까요? 당연히 모릅니다. LLM은 학습 시점까지 공개된 데이터로만 학습되었기 때문에, 사내 문서나 최신 정보처럼 학습 데이터에 없는 내용은 알 수가 없습니다. 더 큰 문제는 모르는 내용을 모른다고 하지 않고 그럴듯하게 지어내는 경우가 있다는 점입니다. 이를 할루시네이션(Hallucination)이라고 합니다. 이 글에서는 이 문제를 해결하는 대표적인 방법인 RAG가 어떤 원리로 동작하는지, 그리고 Python으로 직접 간단한 RAG를 구현..

AI 2026.10.28

AWS Pod EIP Controller로 Pod마다 고유한 공인 IP 부여하기

이번 블로그에서는 AWS EKS 환경에서 Pod마다 고유한 공인 IP를 할당하는 방법에 대한 글을 작성해 보겠습니다. 들어가며외부 파트너사 API를 연동하다 보면 "허용할 IP를 알려주세요"라는 요청을 자주 받게 됩니다. 그런데 요구사항이 한 단계 더 나아가 Pod마다 서로 다른 IP로 식별되어야 한다면 이야기가 달라집니다.EKS의 기본 구성에서는 여러 Pod가 노드의 IP나 NAT Gateway의 IP 하나를 공유해서 나가기 때문에, Pod 단위 화이트리스트가 애초에 성립되지 않습니다. 이 글에서는 이 문제를 AWS Pod EIP Controller로 해결하는 과정을 정리했습니다. 기본적으로 Pod는 어떻게 인터넷에 나가는가?EKS에서 Pod의 아웃바운드 경로는 Worker Node가 어느 서브넷에 ..

Cloud/Kubernetes 2026.10.25

AI 답변의 정확도를 어떻게 측정할까? LLM 평가(Evaluation)의 원리

이번 블로그에서는 AI가 내놓은 답변이 정말 정확한지 어떻게 확인할 수 있는지, LLM 평가(Evaluation)의 원리에 대한 글을 작성해 보겠습니다. 1. LLM Evaluation이란?LLM Evaluation(대규모 언어 모델 평가)은 AI가 생성한 답변이 우리가 기대한 기준을 충족하는지 체계적으로 측정하는 과정입니다. 일반적인 프로그램은 입력이 같고 환경이 동일하다면 정해진 결과를 기대할 수 있습니다. 반면 LLM은 같은 질문에도 표현이나 내용이 달라질 수 있기 때문에 단순히 실행에 성공했는지만 확인해서는 충분하지 않습니다. 예를 들어 대학 공지사항을 요약하는 AI를 개발하였다면, 아래와 같이 기준을 정할 수 있습니다.요약에 중요한 일정이 빠지지 않았는가?원문에 없는 내용을 만들어 내지 않았는가..

AI 2026.10.21

LLM에게 일을 잘 시키는 법, 프롬프트 엔지니어링

이번 블로그에서는 LLM에게 일을 잘 시키는 법, 프롬프트 엔지니어링에 대한 글을 작성해 보겠습니다. 같은 ChatGPT, 같은 Claude를 쓰는데 누군가는 바로 쓸 수 있는 답을 받고, 누군가는 뻔한 일반론만 받습니다.차이는 모델이 아니라 질문을 설계하는 방식에 있습니다. 프롬프트 엔지니어링(Prompt Engineering)은 LLM이 원하는 결과를 안정적으로 내도록 입력을 설계하고 다듬는 일입니다.이 글에서는 LLM이 텍스트를 어떻게 처리하는지 간단히 살펴본 뒤, 대표적인 프롬프팅 기법을 예시와 함께 정리해 보겠습니다. 1. LLM은 어떻게 작동할까?토크나이저 (Tokenizer)LLM은 글자를 그대로 읽지 않습니다. 입력 텍스트를 먼저 토큰(token) 단위로 쪼개고, 각 토큰을 정수로 인코딩해..

AI 2026.10.14

AI 모델이 검색을 하는 방법

이번 블로그에서는 AI 모델이 검색을 하는 방법에 대한 글을 작성해 보겠습니다. 왜 AI는 스스로 검색을 못 하는지AI 모델을 인터넷도 전화도 없는 방에 갇힌 똑똑한 사람이라고 생각하면 이해하기 쉽습니다.이 사람은 학습할 때 읽은 책의 내용은 잘 알고 있지만, 학습 이후에 발생한 일인 오늘의 뉴스나 특정 웹페이지의 최신 정보는 알 수 없습니다. 무엇보다 방 밖으로 나갈 수도 없습니다. 그렇다면 최신 정보가 필요할 때 AI가 할 수 있는 방법은 무엇일까요? 바로 문 밑으로 쪽지를 밀어 넣는 것입니다. → "이거 좀 검색해 줘: 오늘 서울 날씨" 이 쪽지가 바로 AI가 외부 도구를 사용하기 위해 보내는 tool_use 블록(JSON)입니다. 누군가 이 쪽지를 받아 실제로 검색한 뒤, 그 결과를 다시 방 안으..

AI 2026.10.07