일반적인 RAG는 질문과 비슷한 문서 조각(Chunk)을 찾아 LLM에게 전달합니다.

하지만 기업의 실제 지식은 문서 조각처럼 따로 떨어져 있지 않습니다.

사람 조직

제품 규정

사건 증거처럼 서로 연결되어 있습니다.

Graph RAG는 바로 이 연결 관계까지 이해하고

검색하는 RAG입니다.

예를 들어 ISO 심사 시스템에서

“이 보안사고와 관련된 위험, 통제항목, 담당자, 증적은 무엇인가?”라고 질문하면 단순 키워드 검색을 넘어

관련 엔티티와 관계를 따라가며 필요한 근거를 찾아낼 수 있습니다.

Graph RAG 구축 9단계

① 데이터 수집·정제

문서, PDF, DB, API 등 흩어진 데이터를 모으고 중복을 제거하며 출처와 메타데이터를 보존합니다.

② 엔티티(Entity) 추출

문장에서 사람, 기업, 제품, 장소, 규정, 사건처럼 핵심 의미를 가진 대상을 찾아냅니다.

③ 관계(Relationship) 추출

엔티티 사이의 소유, 의존, 발생, 적용, 관련성 등을 찾아 지식의 연결 구조를 만듭니다.

④ 엔티티 해소(Entity Resolution)

같은 대상을 서로 다른 이름으로 표현한 경우 하나로 통합합니다. 중복을 제거하고 고유 ID를 부여해 데이터 품질을 높입니다.

⑤ 지식 그래프 구축

엔티티는 Node, 관계는 Edge로 표현하고 속성·출처·시간정보까지 연결합니다. 여기서 단순 문서 모음이 연결된 지식망으로 바뀝니다.

⑥ 인덱싱·커뮤니티 탐지

그래프 인덱스와 Vector Index를 결합하고 서로 밀접한 엔티티를 묶어 핵심 주제와 커뮤니티를 발견합니다.

⑦ 질문 분석·검색 경로 결정

사용자의 질문 의도를 분석한 뒤 필요한 엔티티와 관계를 따라 탐색합니다. 질문에 따라 Local / Global / DRIFT / Hybrid Search를 선택할 수 있습니다.

⑧ 근거 기반 답변 생성

검색된 그래프와 문서 증거를 LLM Context로 구성하고 출처를 연결하여 근거가 있는 답변(Grounded Answer)을 생성합니다.

⑨ 평가·모니터링

엔티티 정확도, 관계 품질, 검색 적합성, Faithfulness, Hallucination, 응답시간과 비용을 지속적으로 측정합니다.

핵심 메시지

Vector RAG가 “비슷한 정보를 찾는 기술”이라면,

Graph RAG는 “연결된 지식을 따라가며 답을 찾는 기술”입니다.

그래서 Graph RAG의 핵심은 단순히 검색 성능을 높이는 것이 아닙니다.

데이터 → 엔티티 → 관계 → 지식 그래프 → 검색 경로 → 근거 → 추론

이 연결 구조를 통해 AI가 서로 떨어진 정보가 아니라 “연결된 지식(Connected Knowledge)”을 기반으로 추론하도록 만드는 것입니다.

특히 기업 Knowledge Base, ISO 인증·심사 Agent, 보안 위협 분석, 법률·규정 분석, 고객 360°, Research Agent처럼 정보 사이의 관계가 중요한 분야에서 Graph RAG의 가치가 커집니다.

— 이춘곤(Mark) · ISC.studio · ISC출판 도서 안내

이 글은 저자의 Facebook에 처음 게시한 글입니다. Facebook 원문 보기