[도서 리뷰] 혼자서도 척척 해내는 AI 에이전트 만들기 with 랭체인 & 랭그래프

혼자서도 척척 해내는 AI 에이전트 만들기 with 랭체인 & 랭그래프

강병진 지음

혼자서도 척척 해내는 AI 에이전트 만들기 with 랭체인&랭그래프 | 강병진 - 교보문고

 

---

간단 서평

요즘 LLM 기반 서비스는 누구나 한 번쯤 만들어보는 시대가 되었다. API를 연결하고, 벡터 저장소를 붙이고, 프레임워크를 활용하면 생각보다 빠르게 그럴듯한 질의응답 시스템을 완성할 수 있다. 데모를 만드는 일 자체는 더 이상 어렵지 않다. 문제는 그다음이다. 그 구조가 왜 그렇게 동작하는지, 어디까지가 모델의 역할이고 어디서부터가 시스템 설계의 책임인지, 그리고 어느 지점에서 한계가 발생하는지를 충분히 이해하지 못한 채 기능만 덧붙이다 보면 시스템은 금세 복잡해지고 수정과 확장이 어려워진다. 이 책은 바로 그 지점에서 다시 기초를 짚는다. 단순히 구현 방법을 나열하는 것이 아니라, LLM 기반 시스템을 어떤 관점으로 설계해야 하는지를 처음부터 끝까지 하나의 흐름으로 정리해 주며, 왜 이런 구조가 필요한지를 자연스럽게 납득시키는 데 힘이 있다.

 

이 책의 가장 큰 강점은, 초보자들이 흔히 빠지는 오해를 설명의 흐름 속에서 자연스럽게 풀어낸다는 점이다. RAG를 처음 접하는 사람들 중에는 검색 기능만 추가하면 모델의 신뢰도 문제가 자동으로 해결된다고 생각하는 경우가 적지 않다. 그러나 책은 그런 기대를 전제하지 않는다. 검색 결과를 어떻게 다루어야 하는지, 왜 메타데이터를 함께 저장해야 하는지, 그리고 무엇보다 왜 출처를 명확히 드러내는 구조가 필수적인지 설계 관점에서 차근히 짚는다. 단순한 권고에 머무르지 않고, 환각 가능성을 전제로 시스템을 어떻게 책임 있게 구성할 것인가라는 질문으로 이어진다. Source attribution을 제대로 구현하지 않으면 RAG 역시 또 다른 블랙박스가 될 수 있다는 점이 설득력 있게 드러난다.

 

에이전트 설계를 다루는 부분도 같은 맥락에서 인상적이다. 사람들이 자주 혼동하는 워크플로와 에이전트를 구분하고, 의사결정을 담당하는 상위 노드와 실제 작업을 수행하는 노드를 나누어 설명한다. 슈퍼바이저와 개별 에이전트가 어떤 역할을 맡고 어떻게 연결되는지 코드 흐름을 통해 보여주기 때문에, 멀티스텝 구조가 단순 구현이 아니라 설계 문제라는 사실이 분명해진다. 여러 단계를 거치는 시스템을 안정적으로 묶기 위해 어떤 사고가 필요한지 차근차근 안내한다.

 

또 하나 인상적이었던 점은 평가를 독립적인 영역으로 다룬다는 점이다. 토큰 사용량과 지연 시간, 응답 품질을 구분해 관리하는 방법과 골든 데이터셋을 활용한 체계적 검증 전략은 LLM 시스템을 실험이 아닌 서비스로 바라보게 만든다. 결과를 생성하는 단계에서 멈추지 않고, 그 결과를 어떻게 점검하고 개선할 것인지까지 설계의 일부로 포함한다는 태도가 분명하다.

 

다만 아쉬운 부분도 있다. 실습 코드에서 사용하는 라이브러리 버전이 다소 혼재되어 보이는 지점이 있었다. 랭체인과 랭그래프는 업데이트 주기가 빠르고 변화도 잦은 편이라, 버전에 따라 코드 동작이 달라질 수 있다. 주요 라이브러리의 권장 버전을 명확히 안내해주었다면 처음 배우는 독자가 시행착오를 줄이는 데 도움이 되었을 것이다.

 

전반적으로 이 책은 화려한 기법을 나열하기보다 기본 구조를 납득시키는 데 집중한다. 초보자들이 왜 이런 설계가 필요한지 자연스럽게 받아들이며 따라갈 수 있도록 구성되어 있다. RAG와 에이전트를 처음 접하는 독자라면 단순 사용법을 넘어 구조적 이해를 쌓는 데 좋은 출발점이 될 것이다. LLM을 기능이 아니라 시스템으로 이해하고 싶다면 충분히 의미 있는 선택이다.

---

목차

PART I 개발 전 필요한 배경지식

CHAPTER 1 LLM과 RAG 기초 3
1.1 LLM의 개념과 작동 원리 4
1.2 LLM의 주요 특징 16
1.3 LLM의 실제 활용 사례 17
1.4 RAG란? 18
1.5 RAG 파이프라인 구성 시 LangChain 활용의 장점 21

 

CHAPTER 2 벡터 저장소와 임베딩, 검색 전략 24
2.1 RAG 파이프라인의 핵심 구성 요소 24
2.2 벡터 저장소 검색 방식 비교 30

 

CHAPTER 3 프롬프트 엔지니어링 기초 35

PART II LangChain을 활용한 RAG 파이프라인 구성하기

 

CHAPTER 4 LangChain 입문 45
4.1 LangChain이란? 45
4.2 환경 설정과 LangChain ChatOpenAI 활용법 47

 

CHAPTER 5 로컬 및 오픈소스 LLM 활용: Ollama와 허깅 페이스 54
5.1 Ollama를 활용한 로컬 LLM 활용 55
5.2 허깅 페이스의 오픈소스 LLM 활용 60

 

CHAPTER 6 Chroma를 활용한 벡터 저장소 구성 69

 

CHAPTER 7 retrieval 효율 개선을 위한 데이터 전처리 79

 

CHAPTER 8 LLM을 효율적으로 사용하는 방법 84
8.1 분할 정복 85
8.2 LCEL의 특징 87
8.3 소규모 LLM을 활용한 비용 최적화 101

 

CHAPTER 9 LangChain을 활용하지 않는다면? 108

 

CHAPTER 10 LangChain의 유연한 AI 스택 구성 114

 

 

PART III LangGraph를 활용한 AI 에이전트 구현하기

CHAPTER 11 LangGraph 입문 127
11.1 LangGraph란? 127
11.2 LangGraph와 LangChain의 차이점 129

 

CHAPTER 12 워크플로 vs. 에이전트 134
12.1 LangGraph로 구현하는 워크플로 135
12.2 LangGraph로 구현하는 에이전트 144

 

CHAPTER 13 에이전트 오케스트레이션 157
13.1 슈퍼바이저 상태 및 라우터 정의 172
13.2 슈퍼바이저 구성 요소 설정 173
13.3 Command 클래스와 구조화된 출력 기능을 활용한 슈퍼바이저 노드 구현 174
13.4 에이전트 노드 구현 176
13.5 에이전트 노드의 역할과 구현 방식 178
13.6 그래프 구성 및 컴파일 182

 

CHAPTER 14 MCP를 활용한 에이전트 구현 186
14.1 MCP 서버 구현 189
14.2 LangChain 도구를 MCP 도구로 변환 196

 

CHAPTER 15 LangSmith를 활용한 에이전트 모니터링 205
15.1 Input(입력) 209
15.2 Output(출력) 210
15.3 TOTAL TOKENS(토큰 사용량) 211
15.4 LATENCY(지연 시간) 212
15.5 LangSmith를 활용한 에이전트 평가 213

 

CHAPTER 16 실전 AI 에이전트 구현 사례 215
16.1 우버의 대규모 코드 마이그레이션 에이전트 216
16.2 AppFolio의 부동산 관리 코파일럿 217
16.3 링크드인의 AI 리크루터 218
16.4 일래스틱서치의 AI 어시스턴트 219
16.5 Klarna의 고객 지원 AI 어시스턴트 220

 

 

PART IV LLM 성능 평가

CHAPTER 17 LLM 평가의 중요성 225
17.1 LLM의 예측 불가능성 225
17.2 안정적인 AI 에이전트 서비스를 위한 평가의 중요성 226
17.3 LLM 평가의 고유한 어려움 228
17.4 체계적인 LLM 평가 접근법 233

 

CHAPTER 18 LLM 평가 지표 240
18.1 검색 정확도 관련 지표 241
18.2 응답 품질 관련 지표 244
18.3 사용자 경험 관련 지표 247
18.4 종합 평가 지표 251
18.5 RAG 시스템의 핵심 평가 영역 253
18.6 평가 지표 간의 균형과 최적화 255

 

CHAPTER 19 LLM 평가를 위한 골든 데이터셋 257
19.1 골든 데이터셋의 개념 257
19.2 골든 데이터셋 구축 방법 259
19.3 골든 데이터셋의 구조화와 협업 도구 활용 262
19.4 골든 데이터셋 활용 방법 267
19.5 효과적인 골든 데이터셋 구축과 활용 전략 270

 

CHAPTER 20 오프라인 평가 vs. 온라인 평가 271
20.1 오프라인 평가 272
20.2 온라인 평가 274
20.3 하이브리드 접근법 284
20.4 RAG 시스템을 위한 평가 전략 288
20.5 효과적인 LLM 평가를 위한 전략적 접근 293

 

CHAPTER 21 LangSmith를 활용한 에이전트 평가 294

 

CHAPTER 22 앞으로 나아갈 방향 308
22.1 에이전트의 지능 향상 308
22.2 멀티 에이전트 시스템으로의 확장 309
22.3 실제 비즈니스 적용을 위한 다음 단계 310