[도서 리뷰] AI 에이전트 엔지니어링

AI 에이전트 엔지니어링

마이클 알바다 저자(글) · 강민혁 번역

AI 에이전트 엔지니어링 | 마이클 알바다 - 교보문고

---

간단 서평

2022년 말 ChatGPT를 시작으로 생성형 AI가 대중과 산업 현장에 본격적으로 스며든 지도 어느덧 3년이 넘었다. 그 사이 기술은 눈부시게 발전했고, 이제는 단순히 답을 잘하는 모델을 넘어 실제로 일을 수행하는 시스템을 어떻게 설계할 것인가가 중요한 화두가 되었다. 이 책은 바로 그 질문에 정면으로 답한다. 말 잘하는 챗봇이 아니라, 도구를 사용하고 지식을 불러오며 기억을 유지하고, 필요하다면 여러 역할을 나눠 협업까지 수행하는 에이전트 시스템을 어떻게 구축하고 운영할 것인지 전체 흐름을 체계적으로 정리한다. 단순히 개념을 나열하는 데 그치지 않고, 아이디어를 실제 운영 가능한 시스템으로 전환하는 사고 틀을 제시한다는 점에서 밀도가 높다.

 

책의 초반부에서는 에이전트의 개념을 분명하게 정의하고, 모델 선택과 시스템 설계의 기준을 제시한다. 특히 단일 구조로 충분한 경우와 여러 역할을 나누어야 하는 경우를 구분하는 설명은 인상 깊었다. 나 역시 연구를 위한 에이전트 시스템 설계를 함에 있어 과하게 기술적이고 복잡한 구조를 먼저 도입했다가 오히려 관리가 어려워졌던 경험이 있다. 이 책은 복잡성이 언제 필요한지, 그리고 그에 따른 비용과 리스크가 무엇인지를 현실적으로 짚어준다. 속도와 정확도, 확장성과 비용, 신뢰성과 유연성 사이에서 어떤 균형을 택할 것인지에 대한 논의는 단순한 기술적 팁을 넘어 설계자의 태도를 다룬다.

 

도구와 메모리, 조율 구조에 대한 설명도 매우 구체적이다. 외부 기능을 어떻게 연결할지, 지금 당장의 작업에서 참고해야 할 단기 워킹 메모리와 장기적으로 가지고 가야 할 장기 메모리를 어떻게 나눠 관리할지, 여러 에이전트가 협력할 때 어떤 기준으로 역할을 분배해야 하는지 단계적으로 풀어낸다. 특히 단일 에이전트에서 멀티 구조로 확장하는 시점과 기준을 설명하는 부분은 저자가 직접적으로 경험한 실무 경험이 잘 녹아 있는 것 같이 느껴졌다. 단순히 화려함과 복잡성을 늘리는 것이 능사가 아니라, 문제의 특성과 조직의 역량을 함께 고려해야 한다는 점을 강조한다.

 

후반부로 갈수록 책은 단순 기술을 넘어 운영과 거버넌스의 영역까지 시야를 넓힌다. 평가와 모니터링, 실험 설계, 배포 전략, 보안까지 다루며 에이전트를 하나의 지속적으로 관리되는 시스템으로 바라본다. 단순히 작동하는 '데모'를 만드는 것이 아니라, 예기치 않은 입력과 실패 상황에서도 견고하게 동작하도록 설계해야 한다는 메시지가 분명하다. 실제 프로덕션 환경을 염두에 둔 설명이 많아 실무 참고서로서의 가치도 높다.

 

개인적으로 가장 깊이 공감한 부분은 인간과 에이전트의 협업을 다룬 장이었다. HCI 연구자로서 나는 늘 기술의 성능뿐 아니라, 사용자가 그 시스템을 어떻게 이해하고 신뢰하는지, 인간과 AI가 공통의 목표를 가지고 함께 일할 때 어떤 요소를 설계해야 하는지에 관심을 가져왔다. 이 책은 에이전트의 자율성을 어디까지 허용할 것인지, 인간은 어떤 역할을 맡아야 하는지, 실패가 발생했을 때 책임과 통제를 어떻게 구조화해야 하는지까지 구체적으로 논의한다. 특히 신뢰의 형성과 유지, 불확실성을 사용자에게 어떻게 전달할지에 대한 설명은 내가 연구에서 다루던 문제의식과 자연스럽게 맞닿아 있었다. 에이전트를 단순한 자동화 도구가 아니라 인간과 함께 일하는 파트너로 바라보는 관점이 인상 깊었다.

 

이 책의 강점은 특정 기술이나 유행을 좇기보다, 에이전트 시스템을 설계하고 운영하는 데 필요한 원칙을 일관된 구조로 정리했다는 점이다. 개념, 설계, 구현, 확장, 운영, 개선, 보안, 협업까지 하나의 흐름으로 이어지기 때문에 입문자에게는 전체 지도를, 경험자에게는 사고 체계를 다시 정리할 기회를 제공한다.

 

에이전트를 단순한 실험이 아닌 실제 비즈니스와 서비스 환경에 적용하고자 하는 개발자와 기술 리더, 그리고 인간과 AI의 협업 구조를 고민하는 연구자라면 이 책은 충분히 읽어볼 가치가 있다. 생성형 AI 시대에 시스템을 책임 있게 설계하고 운영하려는 이들에게 든든한 안내서가 되어줄 한 권이다.

---

목차

PART 1 에이전트 시스템의 개념과 UX

CHAPTER 1 에이전트
_1.1 AI 에이전트의 정의
_1.2 사전학습이 일으킨 혁명
_1.3 에이전트 유형
_1.4 모델 선택
_1.5 동기에서 비동기로의 전환
_1.6 활용 사례
_1.7 워크플로와 에이전트
_1.8 효과적인 에이전틱 시스템 구축 원칙
_1.9 에이전틱 시스템 구축을 위한 조직 전략
_1.10 에이전틱 프레임워크
_1.11 마무리

 

CHAPTER 2 에이전트 시스템 설계
_2.1 우리의 첫 번째 에이전트 시스템
_2.2 에이전트 시스템의 핵심 구성요소
_2.3 모델 선택
_2.4 도구
__2.4.1 특정 작업을 해결하는 도구 설계
__2.4.2 도구 통합과 모듈성
_2.5 메모리
__2.5.1 단기 메모리
__2.5.2 장기 메모리
__2.5.3 메모리 관리 및 검색
_2.6 오케스트레이션
_2.7 설계 트레이드오프
__2.7.1 성능: 속도와 정확도의 균형
__2.7.2 확장성: 에이전트 시스템의 엔지니어링적 확장
__2.7.3 신뢰성: 견고하고 일관된 에이전트
__2.7.4 비용: 성능과 지출의 균형
_2.8 아키텍처 디자인 패턴
__2.8.1 단일 에이전트 아키텍처
__2.8.2 멀티 에이전트 아키텍처: 협업, 병렬성, 조율
_2.9 모범 사례
__2.9.1 점진적 설계
__2.9.2 평가 전략
__2.9.3 실환경 테스트
_2.10 마무리

 

CHAPTER 3 에이전트 시스템을 위한 UX 디자인
_3.1 모달리티
__3.1.1 텍스트 기반 인터페이스
__3.1.2 그래픽 인터페이스
__3.1.3 음성 인터페이스
__3.1.4 비디오 기반 인터페이스
__3.1.5 모달리티 결합을 통한 매끄러운 경험
__3.1.6 자율성 슬라이더
_3.2 동기식 대 비동기식 에이전트 경험
__3.2.1 동기식 경험을 위한 디자인 원칙
__3.2.2 비동기식 경험을 위한 디자인 원칙
__3.2.3 능동적 개입과 침해적 행동 사이의 균형
_3.3 컨텍스트 유지와 연속성
__3.3.1 상호작용 간 상태 유지
__3.3.2 개인화와 적응성
_3.4 에이전트 능력 커뮤니케이션
__3.4.1 신뢰도와 불확실성 커뮤니케이션
__3.4.2 사용자 지침과 입력 요청
__3.4.3 우아한 실패
_3.5 상호작용 설계에서의 신뢰
_3.6 마무리

 

PART 2 에이전트 시스템의 구축과 확장

CHAPTER 4 도구
_4.1 랭체인 기초
__4.1.1 로컬 도구
__4.1.2 API 기반 도구
__4.1.3 플러그인 도구
__4.1.4 MCP
__4.1.5 상태 유지 도구
_4.2 도구 개발 자동화
__4.2.1 파운데이션 모델을 활용한 도구 개발
__4.2.2 실시간 코드 생성
_4.3 도구 사용 설정
_4.4 마무리

 

CHAPTER 5 오케스트레이션
_5.1 에이전트 유형
__5.1.1 반사형 에이전트
__5.1.2 리액트 에이전트
__5.1.3 계획 후 실행 에이전트
__5.1.4 쿼리 분해 에이전트
__5.1.5 성찰형 에이전트
__5.1.6 심층 리서치 에이전트
_5.2 도구 선택
__5.2.1 표준 도구 선택
__5.2.2 시맨틱 도구 선택
__5.2.3 계층적 도구 선택
_5.3 도구 실행
_5.4 도구 토폴로지
__5.4.1 단일 도구 실행
__5.4.2 병렬 도구 실행
__5.4.3 체인
__5.4.4 그래프
_5.5 컨텍스트 엔지니어링
_5.6 마무리

 

CHAPTER 6 지식과 메모리
_6.1 메모리 기본 사용법
__6.1.1 컨텍스트 윈도 관리
__6.1.2 전체 텍스트 검색
_6.2 시맨틱 메모리와 벡터 스토어
__6.2.1 시맨틱 검색
__6.2.2 벡터 스토어로 시맨틱 메모리 구현
__6.2.3 RAG: 검색 증강 생성
__6.2.4 시맨틱 경험 메모리
_6.3 그래프RAG
__6.3.1 지식 그래프 활용
__6.3.2 지식 그래프 구축
__6.3.3 동적 지식 그래프의 가능성과 위험성
__6.3.4 노트 작성
_6.4 마무리

 

CHAPTER 7 에이전틱 시스템의 학습
_7.1 비모수적 학습
__7.1.1 비모수적 예시 학습
__7.1.2 리플렉시온
__7.1.3 경험 학습
_7.2 모수적 학습: 파인튜닝
__7.2.1 대형 파운데이션 모델 파인튜닝
__7.2.2 소형 모델
__7.2.3 SFT: 지도 파인튜닝
__7.2.4 DPO: 직접 선호 최적화
__7.2.5 RLVR: 검증 가능 보상 강화 학습
_7.3 마무리

 

CHAPTER 8 단일 에이전트에서 멀티 에이전트로
_8.1 에이전트는 몇 개나 필요할까?
__8.1.1 단일 에이전트 시나리오
__8.1.2 멀티 에이전트 시나리오
__8.1.3 스웜
_8.2 에이전트 추가 원칙
_8.3 멀티 에이전트 조율
__8.3.1 민주적 조율
__8.3.2 관리자 중심 조율
__8.3.3 계층형 조율
__8.3.4 액터-크리틱 접근법
_8.4 에이전틱 시스템의 자동 설계
_8.5 에이전트 통신 기법
__8.5.1 로컬 통신과 분산 통신
__8.5.2 A2A 프로토콜
_8.6 메시지 브로커와 이벤트 버스
_8.7 액터 프레임워크
_8.8 오케스트레이션 및 워크플로 엔진
_8.9 상태와 영속성 관리
_8.10 마무리

 

PART 3 신뢰할 수 있는 에이전트 운영과 거버넌스

CHAPTER 9 검증 및 측정
_9.1 에이전틱 시스템의 측정
__9.1.1 측정: 에이전틱 시스템의 핵심
__9.1.2 개발 라이프사이클에 평가 통합
__9.1.3 평가 세트 생성 및 확장
_9.2 컴포넌트 평가
__9.2.1 도구 평가
__9.2.2 계획 능력 평가
__9.2.3 메모리 평가
__9.2.4 학습 평가
_9.3 총체적 평가
__9.3.1 엔드투엔드 시나리오에서의 성능
__9.3.2 일관성
__9.3.3 응집성
__9.3.4 할루시네이션
__9.3.5 예기치 않은 입력
_9.4 배포 준비
_9.5 마무리

 

CHAPTER 10 운영 환경 모니터링
_10.1 모니터링: 학습의 출발점
_10.2 모니터링 스택
__10.2.1 그라파나
__10.2.2 ELK 스택
__10.2.3 어라이즈 피닉스
__10.2.4 시그노즈
__10.2.5 랭퓨즈
_10.3 프로젝트에 적합한 스택
_10.4 오픈텔레메트리 계측
_10.5 시각화와 알림
_10.6 모니터링 패턴
__10.6.1 섀도 모드
__10.6.2 카나리 배포
__10.6.3 회귀 트레이스 수집
__10.6.4 자가 치유 에이전트
_10.7 사용자 피드백
_10.8 분포 변화
_10.9 지표 소유권과 기능 간 거버넌스
_10.10 마무리

 

CHAPTER 11 개선 루프
_11.1 피드백 파이프라인
__11.1.1 자동화된 이슈 탐지와 근본 원인 분석
__11.1.2 인간 개입 리뷰
__11.1.3 프롬프트와 도구 정제
__11.1.4 개선 항목 집계와 우선순위화
_11.2 실험
__11.2.1 섀도 배포
__11.2.2 A/B 테스트
__11.2.3 베이지안 밴딧
_11.3 지속 학습
__11.3.1 인컨텍스트 학습
__11.3.2 오프라인 재학습
_11.4 마무리

 

CHAPTER 12 에이전틱 시스템 보안
_12.1 에이전틱 시스템만의 위험
_12.2 새로운 공격 수단
_12.3 파운데이션 모델 보안
__12.3.1 방어 기법
__12.3.2 레드팀
__12.3.3 MAESTRO 기반 위협 모델링
_12.4 에이전틱 시스템의 데이터 보호
__12.4.1 데이터 프라이버시와 암호화
__12.4.2 데이터 출처와 무결성
__12.4.3 민감 데이터 처리
_12.5 에이전트 보안
__12.5.1 보호 장치
__12.5.2 외부 위협으로부터의 보호
__12.5.3 내부 실패로부터의 보호
_12.6 마무리

 

CHAPTER 13 인간과 에이전트의 협업
_13.1 역할과 자율성
__13.1.1 에이전트 시스템에서 인간의 역할
__13.1.2 이해관계자 정렬과 도입 추진
_13.2 협업 확장
__13.2.1 에이전트 범위와 조직 역할
__13.2.2 공유 메모리와 컨텍스트 경계
_13.3 신뢰, 거버넌스, 컴플라이언스
__13.3.1 신뢰의 라이프사이클
__13.3.2 책임성 프레임워크
__13.3.3 대응 절차 설계와 감독
__13.3.4 프라이버시와 규제 컴플라이언스
_13.4 마무리: 인간-에이전트 팀의 미래