딥러닝 프로젝트를 위한 허깅페이스 실전 가이드(위키북스 데이터 사이언스 시리즈 97)

허깅페이스를 활용한 최신 인공지능 기술의 핵심 개념과 실무 능력을 제공합니다!

 

허깅페이스는 현대 딥러닝 분야, 특히 자연어 처리와 컴퓨터 비전 영역에서 널리 사용되는 강력한 도구입니다. 이 책은 허깅페이스를 활용하여 다양한 딥러닝 프로젝트를 구축하는 방법을 상세히 다룹니다. 트랜스포머 모델의 기본 개념부터 시작하여 자연어 처리, 컴퓨터비전, 멀티모달까지 폭넓은 주제를 다루며, 실제 프로젝트 구현을 통해 실용적인 지식을 제공합니다.

 

이 책은 허깅페이스를 활용해 모델 설정, 토크나이저 사용, 데이터세트 처리, 모델 학습 및 평가 등 프로젝트 전 과정을 상세히 다룹니다. 또한 최신 모델인 BERT, BART, RoBERTa, T5, LLaMA-3.1 등을 활용한 다양한 자연어 처리 모델과 CLIP, OWLv2, SAM 등을 이용한 컴퓨터 비전 모델, 그리고 BLIP-2, LayoutLM, ViLT, Stable-diffusion 등의 멀티모달 모델을 실습합니다.

 

허깅페이스를 이용해 최신 딥러닝 기술을 실제 프로젝트에 적용하고자 하는 개발자, 연구자, 그리고 데이터 사이언티스트 모두에게 강력하게 이 책을 추천합니다!

 

★ 이 책에서 다루는 내용 ★

 

◎ 허깅페이스 이해 및 활용 방법

◎ 트랜스포머 모델의 구조와 작동 원리 이해

◎ 허깅페이스 허브와 리포지터리를 활용한 모델 공유 및 관리

◎ 허깅페이스 트랜스포머 라이브러리를 이용한 모델 설정, 학습, 평가

◎ 자연어 처리 프로젝트(텍스트 분류, 요약, 질의 응답, 기계 번역, 텍스트 생성) 실습

◎ 컴퓨터비전 프로젝트(이미지 분류, 객체 검출, 이미지 세그먼테이션) 실습

◎ 멀티모달 프로젝트(이미지 캡셔닝, 문서 질의 응답, 시각적 질의 응답, 이미지 생성) 실습

◎ 고급 기능(이미지 매칭, 하이퍼파라미터 최적화, 모델 양자화, 분산 학습) 실습

[목 차]

 

▣ 01장: 허깅페이스 알아보기

1.1 인공지능과 허깅페이스

___1.1.1 머신러닝과 딥러닝

___1.1.2 딥러닝을 위한 허깅페이스

1.2 트랜스포머

___1.2.1 트랜스포머 모델 구조

___1.2.2 멀티 헤드 어텐션

___1.2.3 마스크드 멀티 헤드 어텐션

1.3 파이토치 설치 및 환경 설정

___1.3.1 윈도우 / 리눅스

___1.3.2 리눅스(ROCm)

___1.3.3 맥

___1.3.4 구글 코랩

1.4 허깅페이스 허브

___1.4.1 허깅페이스 알아보기

___1.4.2 Models 페이지 알아보기

___1.4.3 사전 학습된 모델 다운로드

1.5 허깅페이스 리포지터리

___1.5.1 모델 리포지터리 생성

___1.5.2 모델 파일 업로드

___1.5.3 push_to_hub 메서드를 통한 업로드

___1.5.4 Git을 통한 업로드

 

▣ 02장: 허깅페이스 트랜스포머

2.1 라이브러리 소개

___2.1.1 트랜스포머

___2.1.2 토크나이저

___2.1.3 데이터세트

___2.1.4 디퓨저

___2.1.5 가속화

2.2 모델 설정

___2.2.1 PretrainedConfig 클래스

___2.2.2 ModelConfig 클래스

2.3 토크나이저

___2.3.1 PreTrainedTokenizer 클래스

___2.3.2 ModelTokenizer 클래스

2.4 모델

___2.4.1 PreTrainedModel 클래스

___2.4.2 ModelModel 클래스

2.5 특징 추출

___2.5.1 ImageFeatureExtractor 클래스

___2.5.2 AudioFeatureExtractor 클래스

2.6 이미지 프로세서

___2.6.1 ImageProcessor 클래스

2.7 오토 클래스

___2.7.1 주요 Auto 클래스

2.8 파이프라인

___2.8.1 파이프라인 종류와 예시

___2.8.2 pipeline 함수

2.9 데이터세트

___2.9.1 선택, 분리, 병합

___2.9.2 필터 및 맵

___2.9.3 기타 메서드

___2.9.4 데이터 업로드

2.10 트레이너

___2.10.1 트레이너 클래스

___2.10.2 트레이닝 아규먼트

___2.10.3 토큰 분류 - 개체명 인식

2.11 모델 평가

___2.11.1 평가 라이브러리

 

▣ 03장: 자연어 처리

3.1 텍스트 분류: BERT

___3.1.1 BERT

___3.1.2 BertTokenizer

___3.1.3 BertModel

___3.1.4 텍스트 분류 모델 학습

3.2 요약문 생성: BART

___3.2.1 BART

___3.2.2 BartTokenizer

___3.2.3 BartModel

___3.2.4 요약문 생성 모델 학습

3.3 질의 응답: RoBERTa

___3.3.1 RoBERTa

___3.3.2 추출 질의 응답 모델 학습

3.4 기계 번역: T5

___3.4.1 T5

___3.4.2 기계 번역 모델 학습

3.5 텍스트 생성: LLaMA-3.1

___3.5.1 LLaMA-3 시리즈

___3.5.2 텍스트 생성 모델 실습

___3.5.3 텍스트 생성 모델 학습

 

▣ 04장: 컴퓨터비전

4.1 제로샷 이미지 분류: CLIP

___4.1.1 CLIP

___4.1.2 제로샷 이미지 분류 수행

4.2 제로샷 객체 검출: OWLv2

___4.2.1 OWLv2

___4.2.2 제로샷 객체 검출 수행

4.3 이미지 세그먼테이션: SAM

___4.3.1 SAM

___4.3.2 이미지 세그먼테이션 수행

 

▣ 05장: 멀티모달

5.1 이미지 캡셔닝: BLIP-2

___5.1.1 BLIP

___5.1.2 이미지 캡셔닝 수행

5.2 문서 질의 응답: LayoutLM

___5.2.1 LayoutLM

___5.2.2 문서 시각 질의 응답 수행

5.3 시각적 질의 응답: ViLT

___5.3.1 ViLT

___5.3.2 시각적 질의 응답 수행

5.4 이미지 생성: Stable-Diffusion

___5.4.1 확산 모델

___5.4.2 Stable-Diffusion 3

___5.4.3 이미지 생성 수행

 

▣ 부록A: 이미지 매칭

A.1 이미지 특징 벡터

A.2 FAISS

A.3 인덱스 유형

 

▣ 부록B: 레이 튠

B.1 하이퍼파라미터 최적화 수행

B.2 하이퍼파라미터 최적화 결과 비교

B.3 하이퍼파라미터 검색 알고리즘

 

▣ 부록C: GPTQ

C.1 GPTQConfig 클래스

C.2 모델 양자화

 

▣ 부록D: 가속화

D.1 Accelerator 클래스

D.2 모델 분산 학습 수행