기계가 언어를 사용한다는 것에 대한 인문학적 사유 - LLM 인공지능이 생성하는 글과 말을 어떻게 바라볼 것인가

언어는 지금까지 인간만이 유일무이하게 소유한 것이라고 여겨왔다. 그런데 AI 기술이 진화하면서 기계가 사람처럼 글을 쓰고 말을 거는 시대가 되었다. 그렇다면 우리는 이 상황을 어떻게 바라봐야 할까? 저자들은 지금 우리 시대가 마주한 이 현상을 분석하기 위해 거대언어모델(LLM) AI와 지능, 언어, 소통, 저자성, 글쓰기의 쟁점들을 아리스토텔레스, 플라톤, 소크라테스 같은 고대 철학자부터 데카르트, 하이데거, 데리다, 바르트, 비트겐슈타인, 푸코, 플루서 등 근현대 사상가들에 이르는 언어학과 언어철학, 문학연구, 커뮤니케이션 이론을 통해 탐구하며 철학적 질문들을 통해 근본적으로 재고하는 통찰력을 보여준다.

 

나아가 저자들은 이 기술이 우리에게 위기만이 가져온 게 아니라 기회까지 제공한다는 관점에서 ‘소통 방식의 AI’가 서구의 사상사, 심지어 우리의 일상생활에 깊숙이 뿌리내린 이분법적 사고방식과 로고스 중심주의를 해체하고 글쓰기의 새로운 미래를 열 수 있다고 내다본다. 커뮤니케이션 행위를 인간을 넘어 서로 소통하고 상호 작용하는 모든 유형의 주체들을 포함하여 이론화하는 대안적 방식도 제안한다. 이 기술을 처음 접한 이들이 이해할 수 있도록 LLM의 언어 생성 원리에 대한 설명부터 복잡한 윤리적, 법적, 사회적, 정치적 쟁점들까지도 짚어보며 이 기술에 대한 비판적 태도와 관계적 접근, 교육의 필요성 역시 강조한다.

[목 차]

머리말

들어가며

 

1장 LLM 인공지능의 언어 생성 원리 및 구조

2장 윤리적, 법적, 사회적 과제

3장 지능, 의식, 그리고 타자의 마음 문제

4장 언어, 의미, 그리고 소통

5장 저자성과 권위

6장 진실, 거짓, 그리고 환각

7장 글쓰기에 미래는 있는가?

 

참고문헌

찾아보기 

[본 문]

62-63

무엇보다도 LLM이 내놓은 거짓 정보를 근거로 어떤 행동을 취하게 되면, 현실에서 아주 심각한 문제를 초래할 수 있다. 이를테면, LLM은 인간이 섭취하기에 부적합한 재료가 포함된 레시피를 생성하고, 독성이 있을 수 있는 약물이나 약물 복용을 추천할 수 있다. 심지어 자살을 시도하도록 사용자를 부추길 수도 있다. 극단적인 말로 들릴 수 있지만, 2023년 3월 벨기에 국적의 한 남성이 그와 영원히 함께할 것이며 “우리는 천국에서 하나가 될 것”이 라는 챗봇의 말을 들은 다음에 실제로 스스로 목숨을 끊은 사례가 있다.

 

84-85

두 번째 선택지(교육과정 도입)의 경우에는 오늘날 글쓰기가 검색 엔진과 AI 텍스트 생성기 등 주어진 모든 디지털 도구를 활용하는 것을 의미한다는 점을 인정하는 것이다. 그렇지만 이러한 AI 텍스트 생성기를 사용하더라도 학생들이 여전히 도움 없이 글을 쓰는 실력을 향상시킬 수 있도록 하는 방법에 대해 고민하는 것이 중요하다. 이는 휴대용 계산기나 그 밖의 디지털 기기를 충분히 사용할 수 있음에도 학생들에게 계산하는 법을 가르치는 것과 비슷한 맥락이다. 그리고 학생들이 기술의 비용과 편익에 대한 인식을 바탕으로 비판적인 태도로 기술을 활용하는 학습 환경을 조성하는 방법에 대해서도 고민해야 한다.

 

 

103-104

『국가』의 한 중간에 나오는 이 유명한 구절은 현대 철학자들이 사고 실험이라고 부를 만한 이야기이다. 이를 간단히 설명하면 다음과 같다. 어느 지하 동굴에 사람들이 쇠사슬로 묶인 채, 아무것도 없는 커다란 벽 앞에 앉아 있다. 벽에는 그림자 이미지들이 투사되고 있다. 이들은 어릴 때부터 이 상태로 살아왔으며, 고개를 돌릴 수 없어 그저 벽에 투사된 인공 이미지 외에는 아무것도 보지 못한다. 그래서 그들은 벽에 보이는 것이 현실이며 진실이라고 믿으며 살아간다. 그런 다음 이 사고 실험은 죄수 한 명이 풀려나는 상황을 가정하여, 진리와 실재에 대한 그 사람의 감각에 어떤 영향이 미칠지 우리에게 상상해 보도록 한다.

 

127

기호는 그저 다른 기호를 지시할 뿐이다. 달리 말하면, 언어학자 크리스토퍼 매닝이 최근 제안한 이른바 ‘분포 의미론’에서 언급하듯, “한 단어의 의미는 단순히 그 단어가 쓰인 문맥에 대한 묘사일 뿐이다.” 이러한 구조주의적 설명은 이미 플라톤의 『크라튈로스』에서 제시되고 발전되었지만, 이를 쉽게 이해하려면 사전을 떠올리면 된다. 사전에 실린 단어들은 다른 단어들과의 관계 속에서 의미를 얻게 된다. 사전에서 단어의 정의를 쫓다 보면, 우리는 언어의 기표 체계 내부에만 머물게 될 뿐, 언어 밖 지시 대상, 즉 기호학자들이 이른바 ‘초월적 기의’라고 부르는 것에는 절대 도달하지 못한다.

 

146

기술이나 매체의 역할이 원래의 메세지를 그대로 반영하거나 단순히 실어나르는 것이 아닌 생성된 결과물에 무언가를 추가할 수 있게 해주는 것이라면, 기술은 단순히 가치 중립적인 도구에 머물지 않는다. 기술은 그 과정에 가장 중요한 핵심이 된다. 이는 대중문화에서 리믹스 아티스트나 DJ들이 그들의 작업에 사용한 장비와 함께 종종 그려지는 모습에서 볼 수 있다. 아티스트와 그들의 장비는 우연히 맺어진 관계가 아니라, 서로 의존하면서 일종의 포스트휴먼 또는 혼종적 주체성으로 결합한다. 이때 인간과 기계는 하나로 연결해 주는 혼합과 해석, 그리고 소통 과정에 함께 참여하며, 결과물의 신화적 기원을 주장하지 않는다.

 

170

데리다의 유명한 진술인 ‘텍스트 바깥에는 아무것도 없다’라는 말에는 바로 그러한 의미가 담겨 있는데, LLM의 경우가 이 말에 특히 잘 들어맞는다. LLM에게는 학습에 사용된 텍스트와 사용자의 프롬프트를 처리하여 생성한 텍스트 외에는 그야말로 아무것도 없기 때문이다. 따라서 LLM 기술은 이 알고리즘들이 단순히 기호만 유포시킬 뿐, 현실 세계에 존재하는 지시 대상에 접근할 수 없다는 비판론자들의 주장은, 사실 그들이 생각하는 것과 같은 폐단이 아닐 수도 있다. LLM은 고전 기호학의 핵심인 개념적 대립항을 해체하는 구조주의적 기계들이다.

 

197

거짓말은 속일 의도로 허위 진술을 하는 것을 수반하기 때문이다. 그렇다면 적어도 이러한 관점에서는 ‘개소리’가 더 나은 용어처럼 보인다. 그리고 바로 이런 이유로 저자들은 챗GPT가 “개소리 기계”라고 결론을 내린다. 설상가상으로, 이러한 AI 모델들이 불쾌감을 불러일으키거나 도덕적으로 무례하게 표현하고 발언한다는 점에서도 큰 문제로 주장할 수 있을 것이다. LLM이 있는 그대로의 세계를 정확하게 보여준다고 믿기 어려울 뿐만 아니라, 아무런 통제 없이 내버려둘 경우 사실과 다른 정보를 주고 다른 방식으로 비윤리적으로 기능할 것이 뻔하기 때문이다.