Graph Engineering
Prompt → Context → Agent → Graph
AI 개발의 중심이 이제 “더 좋은 프롬프트”에서 “더 좋은 실행 구조”로 이동하고 있습니다.
예전에는 AI에게
”어떤 프롬프트를 써야 하지?”라고 물었다면,
이제는 이렇게 질문해야 합니다.
“AI가 어떤 순서와 조건으로 일을 수행해야 하지?”
이 변화가 바로 Graph Engineering입니다.
1단계 | Prompt Engineering
AI에게 무엇을 시킬 것인가?
좋은 지시문을 만들어 원하는 답변을 얻는 단계입니다.
Role → Goal → Instruction → Output
하지만 프롬프트만으로는 복잡한 기업 업무를 안정적으로 자동화하기 어렵습니다.
2단계 | Context Engineering
AI에게 무엇을 알려줄 것인가?
모델이 필요한 정보를 적시에 사용할 수 있도록 문서, 데이터, 메모리, 검색 결과 등을 구성합니다.
Prompt + RAG + Memory + Business Context
핵심은 모델 자체보다 모델이 보는 정보의 품질입니다.
3단계 | Agent Engineering
AI에게 어떻게 일을 시킬 것인가?
AI가 단순히 답변하는 것을 넘어 도구를 선택하고 실제 업무를 수행합니다.
Reasoning → Tool → Action → Result
예를 들어 AI Agent가 데이터베이스를 조회하고, 문서를 분석하고, 이메일을 작성하고, API를 호출할 수 있습니다.
4단계 | Graph Engineering
AI의 업무 전체 흐름을 어떻게 설계할 것인가?
Agent가 무한 반복하는 단순 Loop를 넘어 업무 자체를 노드(Node)와 연결(Edge) 구조로 설계합니다.
Plan → Execute → Verify → Approve → Retry → Finish
즉, AI에게 일을 하나씩 시키는 것이 아니라 AI가 따라야 할 실행 지도를 만드는 것입니다.
Graph Engineering의 두 가지 핵심
① Knowledge Graph
“AI가 무엇을 알고 있는가?”
기업의 지식을 단순 문서 모음이 아니라 서로 연결된 관계 구조로 관리합니다.
Entity → Relationship → Evidence → Time → Context
예를 들어 ISO 심사라면,
통제항목 → 위험 → 정책 → 담당자 → 증적 → 부적합
처럼 서로 연결됩니다.
그래서 기존 Vector Search보다 한 단계 발전한 GraphRAG를 활용하면 단순히 “비슷한 문서”를 찾는 것이 아니라 관련된 사람·문서·사건·근거 간의 관계까지 추론할 수 있습니다.
② Task Graph
“AI가 어떻게 일을 수행하는가?”
복잡한 업무를 작은 작업 노드로 나누고 실행 관계를 정의합니다.
계획 Planning
무엇을 수행할지 결정
→ 병렬 실행 Parallel Execution
독립적인 업무를 동시에 처리
→ 검증 Verification
결과의 정확성·품질 확인
→ Human Approval
중요한 결정은 사람이 승인
→ Retry / Recovery
실패하면 수정 후 다시 실행
→ End
검증된 결과만 최종 출력
이 구조가 중요한 이유는 Agent가 실패하더라도 시스템 전체가 무너지지 않도록 만들 수 있기 때문입니다.
Loop와 Graph의 차이
기존 Agent Loop는 보통 다음과 같습니다.
생각 → 실행 → 결과 확인 → 다시 생각 → 실행
단순한 업무에는 매우 효과적입니다.
하지만 업무가 복잡해질수록
“언제 끝나는가?”,
“누가 검증하는가?”,
“어디에서 실패했는가?”를 관리하기 어려워집니다.
Graph는 이를 명확하게 정의합니다.
Start → Classify → Plan → Worker → Check → Approve → Retry → End
그래서 Graph Engineering은 단순한 자동화보다 통제 가능한 자동화에 더 가깝습니다.
왜 기업용 AI에 Graph가 중요한가?
Graph 기반 Agent Architecture는 다음을 가능하게 합니다.
결정적 오케스트레이션(Deterministic Orchestration)
업무 흐름과 조건을 명확하게 정의합니다.
Observability
어떤 Agent가 무엇을 수행했고 어디에서 실패했는지 추적합니다.
Parallel Processing
서로 독립적인 업무를 동시에 실행합니다.
Retry & Recovery
실패한 작업만 다시 실행할 수 있습니다.
Reusable Workflow
검증된 업무 흐름을 다른 프로젝트에서도 재사용합니다.
Governance & Auditability
누가, 언제, 어떤 데이터와 모델을 이용해 어떤 결정을 했는지 기록합니다.
결국 중요한 차이는 이것입니다.
Agent Loop는 AI에게 일을 반복하게 합니다.
Task Graph는 AI가 일을 수행하는 구조 자체를 설계합니다.
그리고 Graph를 실제 서비스로 만드는 것이 Agent Harness입니다
Graph가 AI의 실행 논리라면,
Agent Harness는 그 Graph가 안전하고 안정적으로 실행될 수 있도록 둘러싼 운영 플랫폼입니다.
쉽게 비유하면:
LLM = 두뇌
Knowledge Graph = 지식 구조
Task Graph = 업무 지도
MCP = 손과 도구 연결
Memory = 기억
Guardrails = 안전장치
Evaluation = 품질검사
Observability = 블랙박스·관제센터
Human-in-the-Loop = 최종 책임자
Agent Harness = 이 모든 것을 연결하는 AI 운영체제
Enterprise Agent Harness
기업용 Agent Harness는 다음 구성요소가 서로 연결되는 형태가 됩니다.
Knowledge Graph + GraphRAG
기업 지식을 관계 기반으로 검색·추론
LangGraph / Graph Orchestrator
Agent의 분기·병렬 실행·검증·재시도를 통제
MCP
파일, DB, API, SaaS, 기업 시스템을 표준 방식으로 연결
Memory
단기·장기·세션·사용자·업무 기억 관리
LiteLLM / Model Router
업무 특성과 비용에 따라 적절한 모델 선택
Temporal / Workflow Engine
몇 분이 아니라 며칠·몇 주 동안 지속되는 업무 실행
Guardrails & Safety
PII, 정책 위반, 잘못된 Tool Call, 위험 출력 차단
Evaluation
정확성·완전성·Hallucination·품질을 자동 평가
Observability
Prompt, Agent, Tool, Token, Cost, Latency, Error를 추적
Human-in-the-Loop
중요한 의사결정에 사람의 검토·승인·수정 절차 적용
최종 메시지는 이렇게 잡으면 좋습니다
우리는 더 이상 하나의 AI Agent를 만드는 것이 아닙니다.
지능형 시스템이 안전하고, 검증 가능하며, 지속적으로 일할 수 있는 실행 환경을 설계하고 있습니다.
Prompt는 지시를 설계하고
Context는 지식을 설계하며
Agent는 행동을 설계하고
Graph는 업무 흐름을 설계하고
Harness는 전체 시스템을 운영합니다.
그래서 앞으로의 Enterprise AI Architecture를 한 문장으로 표현하면:
Graph는 AI가 ‘어떻게 일할지’를 결정하고,
Harness는 AI가 ‘안전하고 지속적으로 일할 수 있는 환경’을 제공합니다.
Prompt → Context → Agent → Graph → Harness
— 이춘곤(Mark) · ISC.studio · ISC출판 도서 안내
이 글은 저자의 Facebook에 처음 게시한 글입니다. Facebook 원문 보기
💬 댓글 (0)