알아서 잘하는 에이전틱 AI 시스템 구축하기

복잡한 AI 시스템을 조율하는 조정자 · 작업자 · 위임자 모델로 에이전트 구축하기

이 책은 생성형 AI를 활용해 계획·추론·행동하는 자율 AI 에이전트를 설계하고 배포하는 방법을 다룬다. 예시 프로젝트로 CrewAI, AutoGen, LangGraph를 활용한 여행 계획 에이전트를 만들어보면서 메타 추론, 자기 설명, 전략적 계획, 다중 에이전트 조정 등의 기술을 익히고, 조정자(여행 계획 작업 총괄)·작업자(항공권 예약 및 여행 데이터 분석)·위임자(작업 우선순위 지정 및 자원 할당) 구조와 같은 확장 가능한 설계 기법을 배울 수 있다. 단순 작업 수행을 넘어 인간의 개입을 최소화하면서 스스로 판단하고 행동하는 차세대 AI 에이전트를 구축해보자.

[목 차]
  

지은이·옮긴이 소개 x

기술 감수자 소개 xi

옮긴이 머리말 xiii

추천사 I xiv

추천사 II xvi

감사의 글 xviii

이 책에 대하여 xx

 

PART I 생성형 AI와 에이전틱 시스템 기초

CHAPTER 1 생성형 AI 기본 3

1.1 생성형 AI 소개 4

1.2 생성형 AI 모델의 유형 5

__1.2.1 VAE 5

__1.2.2 GAN 7

__1.2.3 자기회귀 모델과 트랜스포머 아키텍처 8

__1.2.4 LLM 기반 AI 에이전트 12

1.3 생성형 AI의 응용 16

1.4 생성형 AI의 과제와 한계 19

__1.4.1 데이터 품질과 편향 19

__1.4.2 데이터 프라이버시 20

__1.4.3 계산 자원 21

__1.4.4 윤리적, 사회적 함의 21

__1.4.5 일반화와 창의성 22

요약 22

질문 23

답변 23

더 읽을 거리 24

 

CHAPTER 2 에이전틱 시스템의 원리 25

기술 요구사항 26

2.1 자기 관리, 주체성, 자율성 이해하기 26

__2.1.1 자기 관리 27

__2.1.2 주체성 28

__2.1.3 자율성 28

__2.1.4 에이전트의 주체성과 자율성에 관한 예시 30

2.2 지능형 에이전트와 그 특성 검토하기 33

2.3 에이전틱 시스템 아키텍처 탐색 34

__2.3.1 계획 기반형 아키텍처 35

__2.3.2 반응형 아키텍처 36

__2.3.3 하이브리드 아키텍처 38

2.4 다중 에이전트 시스템 이해하기 40

__2.4.1 MAS의 정의와 특징 41

__2.4.2 MAS의 상호작용 메커니즘 42

요약 47

질문 48

답변 48

 

CHAPTER 3 지능형 에이전트의 필수 구성 요소 50

기술 요구사항 51

3.1 지능형 에이전트에서의 지식 표현 51

__3.1.1 의미망 51

__3.1.2 프레임 53

__3.1.3 논리 기반 표현 55

3.2 지능형 에이전트의 추론 56

__3.2.1 연역 추론 57

__3.2.2 귀납 추론 58

__3.2.3 가설 추론 59

3.3 적응형 에이전트를 위한 학습 메커니즘 61

3.4 에이전트 시스템에서의 의사결정과 계획 63

__3.4.1 유틸리티 함수 63

__3.4.2 계획 알고리즘 65

3.5 생성형 AI를 활용한 에이전트 능력 향상 69

__3.5.1 에이전틱 AI 구축 시작하기 70

요약 73

질문 73

답변 73

 

PART II 생성형 AI 기반 에이전트 설계 및 구현

CHAPTER 4 에이전트의 반성과 자기 성찰 77

기술 요구사항 78

4.1 에이전트에서 반성의 중요성 78

__4.1.1 향상된 의사결정 79

__4.1.2 적응 79

__4.1.3 윤리적 고려 80

__4.1.4 인간-컴퓨터 상호작용 81

__4.1.5 지능형 에이전트의 자기 성찰 83

4.2 반성 기능 구현하기 84

__4.2.1 전통적인 추론 84

__4.2.2 메타 추론 84

__4.2.3 자기 설명 95

__4.2.4 자기 모델링 99

4.3 사용 사례와 예시 102

__4.3.1 고객 서비스 챗봇 102

__4.3.2 개인 맞춤 마케팅 에이전트 103

__4.3.3 금융 트레이딩 시스템 104

__4.3.4 예측 에이전트 105

__4.3.5 전자상거래에서의 가격 전략 107

요약 108

질문 109

답변 109

 

CHAPTER 5 도구 사용 및 계획 수립 기능 활성화 110

기술 요구사항 111

5.1 에이전트에서의 도구 사용 개념 이해 111

__5.1.1 도구 호출과 함수 호출 112

__5.1.2 에이전트를 위한 도구 정의 114

__5.1.3 도구의 유형 116

__5.1.4 에이전틱 시스템에서의 도구의 중요성 120

5.2 에이전트를 위한 계획 알고리즘 121

__5.2.1 낮은 실용성을 가진 계획 알고리즘 121

__5.2.2 중간 실용성을 가진 계획 알고리즘 122

__5.2.3 가장 높은 실용성을 가진 계획 알고리즘 124

5.3 도구 사용과 계획의 통합 131

__5.3.1 도구에 관한 추론 131

__5.3.2 도구 사용을 위한 계획 수립 133

5.4 실용적 구현 탐색 134

__5.4.1 CrewAI 예제 134

__5.4.2 AutoGen 예제 136

__5.4.3 LangGraph 예시 138

요약 140

질문 140

답변 141

 

CHAPTER 6 조정자, 작업자, 위임자 접근 방식 살펴보기 142

기술 요구사항

6.1 CWD 모델 이해 143

__6.1.1 CWD 모델의 핵심 원칙 144

__6.1.2 지능형 여행 에이전트를 위한 CWD 모델 145

6.2 역할 할당을 통한 에이전트 설계 148

__6.2.1 각 에이전트의 역할과 책임 151

6.3 에이전트 간 커뮤니케이션 및 협업 158

__6.3.1 커뮤니케이션 158

__6.3.2 조정 메커니즘 159

__6.3.3 협상 및 갈등 해결 159

__6.3.4 지식 공유 160

6.4 생성형 AI 시스템에서 CWD 접근 방식 구현 161

__6.4.1 시스템 프롬프트와 에이전트 행동 161

__6.4.2 지시 형식 지정 162

__6.4.3 상호작용 패턴 164

요약 164

질문 165

답변 165

 

CHAPTER 7 효과적인 에이전틱 시스템 설계 기법 167

기술 요구사항 168

7.1 에이전트를 위한 집중 시스템 프롬프트와 지침 168

__7.1.1 목표 정의 168

__7.1.2 작업 명세 170

__7.1.3 콘텍스트 인식 172

7.2 상태 공간 및 환경 모델링 173

__7.2.1 상태 공간 표현 173

__7.2.2 환경 모델링 175

__7.2.3 통합 및 상호작용 패턴 177

__7.2.4 모니터링과 적응 179

7.3 에이전트 메모리 아키텍처 및 콘텍스트 관리 180

__7.3.1 단기 메모리(작업 메모리) 180

__7.3.2 장기 메모리(지식 베이스) 181

__7.3.3 일화적 메모리(상호작용 기록) 183

__7.3.4 콘텍스트 관리 184

__7.3.5 의사결정과의 통합 185

7.4 순차 및 병렬 처리의 에이전트 워크플로 186

__7.4.1 순차 처리 186

__7.4.2 병렬 처리 187

__7.4.3 워크플로 최적화 188

요약 190

질문 191

답변 191

 

PART III 신뢰, 안전성, 윤리, 그리고 응용

CHAPTER 8 생성형 AI 시스템에서의 신뢰 구축 195

기술 요구사항 196

8.1 AI에서 신뢰의 중요성 196

8.2 신뢰를 구축하기 위한 기술 197

__8.2.1 투명성과 설명 가능성 197

__8.2.2 불확실성과 편향 처리 202

__8.2.3 효과적인 출력 커뮤니케이션 203

__8.2.4 사용자 제어와 동의 204

__8.2.5 윤리적 개발과 책임 205

8.3 투명성과 설명 가능성 구현하기 207

8.4 불확실성과 편향 처리 208

요약 209

질문 210

답변 210

 

CHAPTER 9 안전 및 윤리 고려사항 관리 212

9.1 잠재적 위험 및 도전 과제 이해하기 213

__9.1.1 적대적 공격 213

__9.1.2 편향과 차별 215

__9.1.3 허위 정보와 환각 216

__9.1.4 데이터 프라이버시 침해 217

__9.1.5 지적 재산권 위험 219

9.2 안전하고 책임 있는 AI 보장 220

9.3 윤리 지침 및 프레임워크 탐색 225

__9.3.1 인간 중심 설계 225

__9.3.2 책임과 책임 소재 225

__9.3.3 프라이버시 및 데이터 보호 225

__9.3.4 다양한 이해관계자의 참여 226

9.4 프라이버시 및 보안 문제 대응 226

요약 228

질문 229

답변 229

 

CHAPTER 10 일반적인 활용 사례와 응용 분야 231

10.1 크리에이티브 및 예술 분야의 응용 232

__10.1.1 크리에이티브 및 예술 에이전트의 발전 232

__10.1.2 실제 적용 사례 233

10.2 자연어 처리 및 대화형 에이전트 236

__10.2.1 언어 에이전트의 발전 236

__10.2.2 실제 응용 사례 236

10.3 로보틱스와 자율 시스템 239

__10.3.1 로봇 에이전트의 발전 239

__10.3.2 실제 응용 사례 240

10.4 의사결정 지원 및 최적화 243

__10.4.1 의사결정 지원 에이전트의 발전 243

__10.4.2 실제 응용 사례 243

요약 247

질문 248

답변 248

 

CHAPTER 11 결론과 미래 전망 250

11.1 핵심 개념 요약 251

11.2 최신 동향과 연구 방향 252

__11.2.1 멀티모달 인텔리전스 – 다양한 입력의 통합 252

__11.2.2 고급 언어 이해 253

__11.2.3 경험적 학습 – 강화 학습의 혁신 253

__11.2.4 산업 전반에 걸친 실질적 영향 254

11.3 인공 일반 지능 254

__11.3.1 AGI는 무엇이 다른가 254

__11.3.2 큰 도전 255

__11.3.3 학습 방법 배우기 255

__11.3.4 현실 세계 이해 255

11.4 도전과 기회 256

요약 258

 

찾아보기 261

[본 문]
  

1장에서 설명한 여행 예약 어시스턴트 예시를 다시 떠올려보자. 이 어시스턴트는 항공권 예약뿐만 아니라 호텔 예약도 담당할 수 있다. 이때, 이 시스템은 다음과 같은 방식으로 주체성을 발휘하게 될 것이다. 예를 들어 두 도시 간 항공편의 가용성, 항공편 가격, 사용자가 입력한 좌석 등급 등의 제약 조건을 분석하고 그 조건에 부합하는 항공편과 호텔을 최적화된 방식으로 탐색하는 의사결정을 함으로써 여행 전체 비용을 최소화하는 결과를 만든다. 즉 시스템은 자신이 내린 결정의 결과에 대해 책임지며, 이는 고객의 여행 계획과 전체 비용에 직접적인 영향을 미친다. (28쪽)

 

또한 MAS의 분산적 특성 덕분에 의사결정도 분산적으로 이루어질 수 있다. 각 에이전트는 자신이 가진 국지적 지식과 제약 조건을 기반으로 독립적인 의사결정을 하면서도, 다른 에이전트들과 협력하고 조정해 전체적인 최적화를 도모할 수 있다. 여행 예약 어시스턴트 예시에서 MAS의 협상 메커니즘은 다양한 참여 주체 간의 효율적인 조정을 가능하게 할 뿐만 아니라 수요/공급의 변화, 가격 변동, 기타 운영 요인 등에 대한 유연하고 적응력 있는 대응을 제공함으로써 고객 요구에 부합하는 보다 탄력적이고 반응성 높은 시스템을 구현할 수 있다. (45쪽)

 

자기 성찰은 에이전트가 모호함과 불확실성에 대처할 수 있는 능력을 강화한다. 과거 경험을 되돌아보며, 에이전트는 복잡하고 동적인 환경에 더 잘 적응할 수 있는 강건한 의사결정 전략을 개발할 수 있다. 따라서 자기 성찰은 변화하는 데이터나 환경과 상호작용하는 시스템에서 특히 중요하다. 이러한 시스템에서는 시간이 지나도 관련성과 효율성을 유지하는 것이 관건이기 때문이다. 자기 성찰은 지능형 에이전트를 단순한 반응적 시스템에서 능동적 학습자로 변화시킨다. 에이전트는 자신의 사고 과정을 이해하고, 경험을 통해 학습함으로써 행동을 지속적으로 정제할 수 있으며, 다양한 상황에서 보다 지능적이고 적응력 있는 성능을 발휘할 수 있다. (83쪽)

 

메타 추론은 여행 에이전트가 자원 할당을 최적화하는 데에도 도움이 될 수 있다. 예를 들어 복잡하거나 고위험의 여행 계획 시나리오(목적지가 여러 곳인 가족 여행이나 대규모 단체 여행을 기획하는 등)에는 에이전트가 더 많은 계산 자원을 할당해 좀 더 깊은 추론과 분석을 수행할 수 있다. 이것은 더 넓은 범위의 옵션을 고려하거나, 다양한 시나리오를 시뮬레이션 하거나, 더욱 정교한 알고리즘을 활용해 최적의 추천을 생성하는 것 등을 포함할 수 있다. 반면, 단순한 주말 여행 예약과 같은 일상적인 요청에는 간소화된 추론 프로세스나 미리 정의된 규칙을 사용할 수 있고, 이로써 계산 자원을 더 복잡한 작업을 위해 아껴둘 수 있다. (85쪽)

 

역할 기반 모델링의 핵심 원칙들(내부 알고리즘 로직과 상호작용 로직의 분리, 동적 역할 할당, 모듈화된 시스템 구성)은 협업이 요구되는 LLM 에이전트들을 설계할 때 특히 유효하며, 에이전트 사이의 명확한 책임 구분과 상호작용 패턴을 유지할 수 있게 돕는다. 에이전트가 가진 능력과 시스템 요구 사항에 따라 구체적인 역할을 할당함으로써 개발자는 관심사의 분리를 기반으로 하는 모듈화되고 재사용할 수 있는 설계를 구현할 수 있다. 예를 들어 지능형 여행 에이전트 시스템에서는 각 에이전트에게 조정자, 작업자, 위임자 등의 역할을 부여할 수 있다. (222쪽)

 

여행 계획 조정자 에이전트는 작업자 에이전트들의 활동을 전체 여행 계획 목표에 맞게 정렬하기 위한 조정 메커니즘을 구현할 수 있다. 예를 들어 고객 선호도 또는 여행 날짜에 기반한 작업 우선 순위 메커니즘을 채용할 수 있다. 고객이 숙박 예약 일정 탐색을 최우선으로 요청하면, 조정자 에이전트는 위임자 에이전트에게 호텔 예약 작업자 에이전트의 우선순위를 다른 작업자 에이전트의 그것보다 높이게 지시할 수 있다. 그리고 조정자 에이전트는 각 작업자 에이전트의 진행 상황을 모니터링하여 자원을 재할당하거나 우선순위를 조정함으로써 작업이 제시간에 완료되도록 할 수 있다. (255~256쪽)