LLM 마스터: 모델x시스템 엔지니어링 - 트랜스포머부터 SFT.VLM.툴콜링 파인튜닝. vLLM 서빙. 강화학습. 고급 RAG.에이전트까지

API 활용에서 LLM 엔지니어링으로, 그 도약에 필요한 모든 것

모델의 원리부터 서비스 확장까지, LLM 개발의 전 과정을 잇는 실전 로드맵

LLM을 ‘쓸 줄 아는’ 사람은 많아졌습니다. API를 호출하고 프롬프트를 다듬는 일도 이제는 그리 어렵지 않습니다. 하지만 한 겹 더 깊이 들어가면 이야기가 달라집니다. 모델은 왜 이렇게 동작하는지, 내 데이터로 어떻게 학습시키는지, 실제 서비스의 트래픽을 어떻게 감당하게 할지. LLM을 제대로 다루려면 단순한 활용을 넘어서는 지식과 경험이 필요합니다.

 

이 책은 바로 그 경계를 넘으려는 개발자를 위한 LLM 엔지니어링 안내서입니다. 현업 개발자이자 데이터 과학자인 네 명의 저자가 흩어져 있는 기술과 개념을 하나의 학습 로드맵으로 엮었습니다. 트랜스포머의 작동 원리에서 출발해 파인튜닝과 서빙 최적화, Reasoning LLM, 고급 RAG와 도구 호출 에이전트까지, 모델과 시스템이 어떻게 연결되어 실제 LLM 서비스가 되는지 전체 흐름을 따라갑니다.

 

이 책이 집중하는 것은 단순한 ‘사용법’이 아니라 ‘원리와 구현’입니다. 각 기술이 왜 필요하고 어떤 문제를 해결하는지 이해하고, 수식과 메커니즘으로 원리를 파악한 뒤 직접 모델을 학습하고 시스템을 구현합니다. RunPod를 활용한 GPU 학습, vLLM 기반 서빙, 모델 평가 등 실제 개발 과정도 경험합니다.

 

책을 덮을 즈음에는 LLM을 가져다 쓰는 데 머물지 않고, 목적에 맞게 모델을 학습하고 최적화해 실제 서비스로 구현하는 역량을 갖추게 될 것입니다. API 활용에서 한 걸음 더 나아가, 모델과 시스템을 함께 다루는 LLM 엔지니어로 성장하고 싶은 독자를 위한 책입니다.

[목 차]

추천의 글

들어가며

이 책의 대상 독자와 사전 지식

이 책의 구성과 학습 로드맵

이 책을 효과적으로 읽는 법

예제 파일과 실습 환경

 

Chapter 1 언어 모델

1 언어 모델 이전의 텍스트 표현: 백오브워즈

2 언어 모델의 개념과 원리

3 인공 신경망 기반 언어 모델

4 Seq2Seq와 인코더-디코더 구조

 

Chapter 2 트랜스포머 아키텍처와 LLM 핵심 기술

1 트랜스포머 아키텍처

2 어텐션 메커니즘의 작동 원리

3 다양한 트랜스포머 모델 분석

4 사전학습의 개념과 주요 방식

5 허깅페이스 허브 활용하기

6 텍스트 생성의 디코딩과 샘플링 기법

7 LLM 토크나이저와 챗 템플릿

 

Chapter 3 LLM 파인튜닝과 학습 효율화

1 파인튜닝의 개념과 원리

2 파인튜닝의 등장 배경과 현재 역할

3 지시사항 튜닝

4 PEFT: 효율적인 파인튜닝 기법

5 [실습] 파인튜닝: 뉴스 기사 요약 및 키워드 추출

 

Chapter 4 비전 언어 모델과 Qwen3-VL

1 VLM을 위한 비전 인코더

2 Qwen3-VL의 구조

3 Qwen3-VL의 학습

4 [실습] Qwen3-VL로 패션 상품 속성 추출

 

Chapter 5 펑션 콜링 에이전트 파인튜닝

1 펑션 콜링의 이해

2 [실습] 파인튜닝: 쇼핑몰 멀티턴 챗봇

3 [데모] 함수를 호출하는 멀티턴 상담 챗봇

 

Chapter 6 LLM 추론·서빙 최적화

1 어텐션 연산과 메모리 최적화

2 KV 캐시 최적화

3 서빙 배치 관리

4 추론 가속화 기법

5 LLM 서빙 프레임워크

 

Chapter 7 Reasoning LLM과 강화학습

1 Reasoning LLM의 개념과 등장 배경

2 Reasoning LLM의 핵심 기술

3 DeepSeek-R1의 특징과 학습 원리

4 [프로젝트] MiniR1 추론 모델 학습

 

Chapter 8 RAG 시스템 구축과 최적화

1 기본 RAG 파이프라인 설계

2 랭체인으로 RAG 파이프라인 구성하기

3 고급 검색 및 RAG 기법

4 대화 메모리와 히스토리 관리

5 RAG 파이프라인 최적화

6 [프로젝트] 금융 PDF 기반 RAG 챗봇 구축

 

Chapter 9 도구 호출 에이전트

1 도구 호출 에이전트의 개념과 구조

2 서로 다른 두 축: 펑션 콜링과 ReAct

3 [실습] ReAct: 추론과 행동을 교차하기

4 [실습] 펑션 콜링: JSON 형식으로 도구 호출하기

5 [실습] 예외 처리와 병렬 실행

6 [응용] Text-to-SQL로 데이터베이스 질의하기

 

마치며

참고문헌

찾아보기