[POD] AI 모델을 위한 자연어추론 데이터

인간이 다른 사람의 말을 듣고, 이해하며, 이에 응답하기 위해서는 여러 가지 지적 능력을 필요로 한다. 우리들의 일상 대화는 이렇게 무수히 축적된 언어적 또는 언어외적 지식의 토대 위에서 수행되는데, 추론(inference)이란 바로 이러한 복합적인 지적 프로세싱을 가능하게 하는 수많은 논리적 퍼즐 조각들로 이루어진다. 이 책은 현재 놀라운 성능으로 인간과 대화를 수행하는 AI 언어 모델(language model)이 아직도 여전히 많은 부분에서 인간과 같은 추론 능력을 보이지 못하는 현상이 어디에서 비롯되는 것인지에 대한 성찰에서 출발하였다. 이를 위한 신뢰할 수 있는 학습데이터가 제공될 때 AI 모델의 추론 능력이 향상될 수 있을 것이라는 데에는 이견이 없지만, 과연 이를 위한 ‘자연어추론(Natural Language Inference: NLI)’ 데이터가 어떻게 구성되어야 할 것인가의 문제에 대해서는 아직도 밝혀내야 할 내용이 산재해 있기 때문이다.

이 책에서는 AI 언어 모델의 자연어추론 능력 학습을 위해 제안된 NLI 데이터셋의 연구 동향을 소개하고, 현재 지적되는 한계점들을 극복하기 위해서 자연언어의 어떠한 특징들이 고려되어야 하는지에 대해서 고찰하였다. 특히 한국어에 특화된 NLI 데이터셋을 설계하기 위해서, 어떠한 한국어 고유의 언어적 속성들이 기술되어야 하는지를 심층적으로 논의하였다. 이 책은 다음 세 부분으로 구성된다. 제1장에서는 현재 자연어추론 데이터셋 구축 연구 동향을 고찰하고, 제2장에서는 한국어의 통사ㆍ의미적 속성에 기반한 자연어추론 데이터셋 구축에 중요하다고 판단되는 언어학적 현상들을 78개 유형으로 분류하여 논의한다. 끝으로 제3장에서는 이 유형별 속성을 통해 제안된 자연어추론 스키마 KOLINS와 이에 따라 구축된 한국어 추론데이터 KOLIN(버전 V_1.0)에 대한 소개 및 성능 평가가 진행된다.

이 책은 한국어에 특화된 다양한 태스크의 AI 모델을 개발하고자 하는 개발군 연구자들뿐 아니라 자연어이해를 위한 언어데이터 구축에 관심이 있는 데이터언어학 연구자들, 그리고 한국어의 추론 관계에 관여하는 어휘ㆍ통사ㆍ의미적 속성들에 대한 언어학적 연구를 수행하고자 하는 이론언어학 및 한국어학 연구자들을 대상으로 하였다. 이 책은 대학에서의 강의와 연구를 바탕으로 시작되었으나, 언어 모델의 파인 튜닝(fine-tuning)을 위한 학습데이터셋 구축에 필요한 실제 스키마를 제안하는 역할을 함께 수행할 수 있게 되었다. 본 연구에서 분류하여 제안하는 한국어의 언어학적 속성 유형별 성찰을 통해, 향후 언어 모델이 어떠한 통사ㆍ의미적 언어 현상 이해에 특히 취약한 양상을 보이는가를 파악하고, 이를 위한 맞춤형 데이터 증강이 가능할 것으로 판단된다. 이를 통해 현재 언어 모델의 한계를 극복하기 위해 왜 이와 같은 ‘언어학적 접근법(symbolic approach)’이 반드시 함께 병행되어야 하는지를 다시 한번 체험할 수 있는 기회가 되기를 기대한다.

목차
머리말 | 저자 서문 ii
책의 구성 | 목차 iv
제 1장. 자연어추론 데이터셋 연구 동향 1
1 자연어추론(Natural Language Inference) 3
1.1 자연어추론의 정의 3
1.2 자연어추론(NLI)과 초기 언어학적 고찰 8
2 자연어추론 데이터셋과 벤치마크 29
2.1 텍스트함의인식(RTE) 데이터셋 30
2.2 대규모 자연어추론 벤치마크의 등장 32
2.3 어휘∙논리∙통사 기반 데이터셋 연구 44
2.4 상식ㆍ문맥에 기반한 자연어추론 데이터셋 연구 60
2.5 국내 자연어추론 학습데이터셋의 연구 79
3 자연어추론 데이터셋 구축 접근법 86
3.1 웹문서 기반 전제문과 크라우드워커의 가설문 86
3.2 언어학적 특징을 고려한 데이터셋의 설계 88

제 2장. 언어학적 속성 기반 한국어 추론 데이터 연구 91
I. 논항 변환 스키마 97
1 A01 주어와 ‘N-와’ 논항의 교차 100
2 A02 목적어와 ‘N-와’ 논항의 교차 104
3 A03 주어와 ‘N-에/로’ 논항의 교차 106
4 A04 목적어와 ‘N-에/로’ 논항의 교차 109
5 A05 목적어와 주어의 교차 110
6 A06 속격의 주격중출문 논항으로의 변형 114
7 A07 속격의 목적격중출문 논항으로의 변형 116
8 A08 내포문 주격의 주절 목적격으로의 변형 118
9 A09 주격의 무표격 논항으로의 변형 120
10 A10 목적격의 무표격 논항으로의 변형 122
11 A11 부사격의 후치사 변형 125
12 A12 주격 논항의 삭제 130
13 A13 주격 중출문의 논항 삭제 132
14 A14 목적격 논항의 삭제 141
15 A15 목적격 중출문의 논항 삭제 142
16 A16 동족논항 구문의 논항 삭제 147
17 A17 부사격 논항의 삭제 149
18 A18 공지칭 대명사 논항의 삭제 151
19 A19 명사구의 AND 등위접속 155
20 A20 명사구의 OR 등위접속 158
21 A21 주격 논항의 외치 등위접속 161
22 A22 목적격 논항의 외치 등위접속 163
23 A23 부사격 논항의 외치 등위접속 165

II. 술어 변환 스키마 167
24 P01 동사구 술어의 부정 170
25 P02 형용사구 술어의 부정 172
26 P03 명사구 술어의 부정 176
27 P04 술어구 이중 부정문 178
28 P05 술어의 수동문 변형 184
29 P06 술어의 시제 변형 188
30 P07 술어의 우언적 구성 변형 190
31 P08 술어의 보문절 변형 194
32 P09 내포문 술어의 명사화 변형 196
33 P10 형용사 술어의 부사화 변형 199
34 P11 함축동사의 삭제 203
35 P12 사실동사의 삭제 210
36 P13 사역동사의 삭제 215
37 P14 술어의 AND 등위접속 218
38 P15 술어의 OR 등위접속 221

III. 수식성분 변환 스키마 227
39 M01 수량사/시간 표현 관형어의 변형 230
40 M02 상향 단조의 존재양화사 변형 235
41 M03 하향 단조의 보편양화사 변형 237
42 M04 수 관형어의 비단조 변형 239
43 M05 두 관형어의 교차 변형 240
44 M06 관형어의 위치 변형 243
45 M07 관형어의 삭제 변형 245
46 M08 관형어의 AND 등위접속 248
47 M09 관형어의 OR 등위접속 252
48 M10 주어의 주격관계절 변형 258
49 M11 주어의 비주격 관계절 변형 263
50 M12 비주어 논항의 주격 관계절 변형 266
51 M13 비주어 논항의 비주격 관계절 변형 269
52 M14 조건 부사절 내포 문장의 변형 272
53 M15 양보 부사절 내포 문장의 변형 274
54 M16 목적 부사절 내포 문장의 변형 276
55 M17 원인 부사절 내포 문장의 변형 278
56 M18 시간 부사절 내포 문장의 변형 280
57 M19 설명 부사절 내포 문장의 변형 283
58 M20 확신/태도 표현 문장부사의 변형 287
59 M21 불확신 표현 문장부사의 변형 289

IV. 어휘∙지식 변환 스키마 293
60 L01 명사의 유의어 어휘 변형 296
61 L02 명사외 범주의 유의어 어휘 변형 298
62 L03 명사의 반의어 어휘 변형 301
63 L04 명사외 범주의 반의어 어휘 변형 304
64 L05 비유적∙관용적 유의어 표현 변형 308
65 L06 부정 접두사에 의한 파생어 변형 310
66 L07 명사의 상위어∙하위어 어휘 변형 313
67 L08 명사외 범주의 상하위어 어휘 변형 316
68 L09 명사의 부분어∙전체어 어휘 변형 319
69 L10 명사의 환유어 어휘 변형 322
70 L11 문화∙종교 지식에 기반한 변형 325
71 L12 지리적 지식에 기반한 변형 327
72 L13 역사적 지식에 기반한 변형 329
73 L14 예술적 지식에 기반한 변형 331
74 L15 법률∙사회적 지식에 기반한 변형 334
75 L16 경제∙스포츠 지식에 기반한 변형 336
76 L17 수리적 지식에 기반한 변형 338
77 L18 과학∙의학 지식에 기반한 변형 340
78 L19 일반상식 지식에 기반한 변형 342

제 3장. KOLINS 스키마 & KOLIN 데이터셋 345
1 KOLINS 한국어추론 데이터 스키마 347
2 KOLIN 한국어추론 데이터셋 구축 353
3 KOLIN 데이터셋 성능 평가 364
참고문헌 371