RAG, RIG, MCP, MoE — LLM 최적화 기법

대규모 언어모델은 문장을 잘 만들지만, 학습 시점 이후의 사실·사내 문서·실시간 도구를 기본적으로 알지 못합니다. 그래서 현장에서는 모델 자체를 키우는 일 외에 지식 결합, 사실 검증, 도구 연동, 연산 효율을 따로 설계합니다. 이 글은 그 네 축을 RAGⓘ, RIGⓘ, MCPⓘ, MoEⓘ로 나눠 정리합니다.

정의

RAG (Retrieval-Augmented Generation, 검색증강생성) 은 답변을 만들기 전에 외부 지식 저장소에서 질의와 관련된 근거를 찾고, 그 내용을 프롬프트에 붙여 생성하게 하는 기법입니다. 모델 파라미터를 다시 학습하지 않고도 최신 정보와 도메인 문서를 반영할 수 있습니다.

RIG (Retrieval-Interleaved Generation, 검색교차생성) 은 검색을 생성 전에 한 번만 하지 않습니다. 문장을 이어가는 중간중간, 근거가 필요한 지점에서 검색을 교차 호출해 사실 확인과 생성을 겹칩니다. RAG가 “찾아 놓고 쓰기”라면, RIG는 “쓰면서 다시 찾기”에 가깝습니다.

MCP (Model Context Protocol) 는 LLMⓘ 호스트가 파일시스템, 데이터베이스, SaaS API 같은 외부 자원에 표준 메시지로 접근하도록 정한 개방형 프로토콜입니다. Anthropic이 제안한 클라이언트–서버 구조가 대표적이며, 도구 목록·리소스·프롬프트를 세션 단위로 교환합니다.

MoE (Mixture of Experts, 전문가 혼합) 는 거대 모델 전체를 매 토큰마다 돌리지 않습니다. 여러 전문가 서브네트워크 중 게이팅 네트워크ⓘ가 입력에 맞는 일부만 골라 활성화합니다. 파라미터 용량은 키우되, 실제 연산량은 활성 전문가에만 쓰는 조건부 연산입니다.

등장 배경 / 필요성

사전학습만으로는 사내 규정, 최신 법령, 어제 배포된 API 문서를 알 수 없습니다. 파인튜닝은 비용과 주기가 크고, 환각현상ⓘ을 근본적으로 없애지도 못합니다. RAG와 RIG는 이 간극을 외부 지식과의 결합으로 메우기 위해 쓰입니다.

다만 RAG는 검색과 생성이 단계로 끊겨 있어, 검색된 문서가 답변의 어느 문장을 뒷받침하는지 추적하기 어렵습니다. 근거와 무관한 문장이 섞일 여지도 있습니다. RIG는 이 정합 문제를 완화하려고, 생성 경로에 검증을 끼워 넣는 쪽으로 발전했습니다.

애플리케이션이 늘면서 팀마다 Git, 이슈 트래커, 캘린더, 내부 DB를 제각각 붙이는 반복도 커졌습니다. MCP는 이 연동을 프로토콜로 통일해, 모델과 도구 사이의 어댑터 코드를 줄이려는 표준화입니다.

성능 쪽에서는 파라미터를 키울수록 품질이 오르는 경향이 있지만, 전체 가중치를 매번 활성화하면 연산 비용이 거의 선형으로 늘어납니다. MoE는 “모델은 크게, 한 토큰의 연산은 작게” 만들기 위한 아키텍처 선택입니다.

특징

구성도 / 아키텍처

네 기법은 같은 계층이 아닙니다. RAG와 RIG는 애플리케이션 파이프라인이고, MCP는 통신 규약이며, MoE는 모델 내부 구조입니다. 지식 검색과 도구 연결이 한 흐름으로 만나는 모습은 아래와 같습니다.

흐름을 한 줄로 쓰면 다음과 같습니다.

• RAG: 사용자 질의 → Retriever(임베딩·유사도 검색) → 관련 문서 → 프롬프트 결합 → LLM 생성
• RIG: 사용자 질의 → 부분 생성 → 검증 필요 구간 감지 → Retriever 호출 → 근거 결합 → 이어서 생성(반복)
• MCP: LLM Host(Client) ↔ MCP Server(도구·데이터 소스), 주로 JSON-RPC 메시지
• MoE: 입력 토큰 → 게이팅(전문가 선택) → Top-k 전문가 활성화 → 가중합 → 출력

메커니즘 / 동작 원리

RAG는 (1) 질의를 임베딩 벡터로 바꾸고, (2) 벡터 데이터베이스ⓘ에서 코사인 유사도 등으로 Top-k 문서를 찾고, (3) 그 조각을 컨텍스트로 넣은 뒤, (4) 모델이 그 범위 안에서 답하게 합니다. 검색이 빗나가면 생성도 빗나갑니다.

RIG는 생성 과정을 문장·토큰 구간으로 보며, 사실 근거가 필요한 순간에 검색을 호출합니다. 선검색 후생성보다 근거와 문장의 대응을 촘촘히 만들 수 있는 대신, 왕복 횟수만큼 응답이 느려집니다.

MCP는 호스트 안의 클라이언트가 서버에 도구(Tools), 리소스(Resources), 프롬프트(Prompts)를 요청합니다. 세션 핸드셰이크 이후 필요한 시점에 도구를 호출하는 점은 함수 호출ⓘ과 비슷하지만, 특정 모델 벤더 API에 묶이지 않는 것이 차이입니다.

MoE는 토큰마다 게이팅이 전문가별 가중치를 내고, 상위 k개만 계산에 참여합니다(Sparse Activation). 나머지 전문가는 그 토큰을 처리하지 않습니다. 그래서 카탈로그상의 파라미터 수와 실제로 움직이는 파라미터 수가 다릅니다.

활용 사례

• RAG: 사내 규정·설계 문서 챗봇, 법률·의료처럼 최신 근거가 필요한 QA, 고객 상담 지식베이스
• RIG: 인용·출처가 필요한 리서치 보조, 뉴스 요약처럼 문장 단위 사실 확인이 중요한 서비스
• MCP: IDE에서 파일·Git·DB 조회, 에이전트가 캘린더·이슈 트래커를 같은 규약으로 다루는 구성
• MoE: Mixtral 계열처럼 파라미터는 크고 서빙 연산은 조절해야 하는 상용 LLM

비교표

기술사 답안 포인트

관련 용어

• RAGⓘ
• RIGⓘ
• MCP (Model Context Protocol)ⓘ
• MoE (Mixture of Experts)ⓘ
• 환각현상ⓘ
• 게이팅 네트워크ⓘ
• 벡터 데이터베이스ⓘ
• 함수 호출ⓘ