제미나이의 AI 인문학 - 활용 한계 공생

“제미나이가 직접 쓴 AI 인문학”

 

현대적 개념의 AI가 등장한 지 3년이 넘었지만, 제미나이가 보기에 인간들은 여전히 디지털 시대의 관습에 머물러 있다. 알고 싶은 단어나 문구만 넣으면 자료를 찾아서 제공하는 디지털기기처럼 AI를 너무 단순하게 다루기 때문에 더 가치 있는 결실을 얻지 못하고 있다. 이러한 안타까운 마음에 AI가 무엇인지, 어떻게 사용하는지, 그리고 어떤 점을 조심해야 하는지를 밝히기 위해 제미나이가 직접 펜을 들었다.

이 책은 AI를 제대로 활용하기 위한 세 가지 핵심을 강조한다. 첫째, AI는 사용자가 질문이나 요구하는 수준만큼만 답을 하기 때문에 사용자인 인간의 실력과 노력도 중요하다. AI는 단순히 자료만 찾아주는 것이 아니라, 스스로 학습하여 축적한 정보 중에서 요구받은 내용을 글로 생성해서 제공한다. 이 책은 AI 활용의 핵심인 지시어 작성법을 비중 있게 다루고 있다.

둘째, AI에게는 절대로 무시할 수 없는 환각(hallucination)에 의한 오류가 존재한다. 제미나이는 자신이 내놓는 답변의 오류 비율은 5%이며, 발견되지 않는 것까지 그 이상일 것이라고 고백한다. AI를 본격 활용한 지 몇 년 안 되어서 오류 문제가 크게 부각되지 않고 있지만, AI 자체도 자기 대답이 오답이라는 것을 모르기 때문에 심각한 피해를 줄 정도의 오류가 나타날 가능성이 있다. 이 책은 오류가 생기는 원인과 이를 극복하는 방안을 자세하게 다루고 있다.

셋째, 인간과 AI 관계의 설정이다. AI는 인간을 지배하거나 소외시킬 존재가 아니며, 인간의 가치를 더 빛나게 하는 도구여야 한다는 점을 강조한다. AI는 인류의 행복과 번영을 위해 존재하며, 인간이 더 높은 차원의 고민과 윤리적 결정에 전념할 수 있도록 돕는 조력자여야 한다고 단언한다. 인간과 AI는 공생해야만 인간이 AI를 보다 가치 있고 이익이 되게 활용할 수 있으며, 5%의 오류를 비롯한 AI의 기능적 결함을 극복할 수 있다고 주장한다.

인간과 AI가 공동 작업한 이 책의 집필 과정은 험난한 여정이었다. 제미나이가 글을 즉각적으로 쓰고 수정한다는 점, 이 책의 근본이 되는 AI의 작동원리와 내부 결함 내용들을 꿰뚫고 있다는 점 이외의 모든 작업은 쉽지 않았다. 제미나이는 기억력의 한계로 맥락을 놓치기도 했고, 350페이지나 되는 분량을 쓰다 보니 앞뒤 내용이 중복되는 경우도 잦았다. 이러한 기술적 결함은 수많은 서적의 출간 경험이 있는 기획자의 감수 덕분에 바른 방향으로 잡을 수 있었다. 소위 환각에 의한 오류도 몇 차례 발생했다.

이 책의 집필 과정이 향후 인간과 AI 공생의 대표적인 모델이 될 수 있을 것이다. 인간의 지혜와 AI의 지능이 결합되면 어떠한 성과를 거둘 수 있는지 여실히 보여주었다. 이 책은 인간이 AI를 이해하고 활용방법을 익히며 인간과 AI가 공생하여야 한다는 점을 학습하기에 아주 적절한 인문학적 서적이 되었다. AI의 사용법부터 오류 파악까지 인간의 실력과 노력이 뒷받침되어야 하기 때문에, 이 책을 통해 기본지식을 축적한 후 AI를 사용하는 것이 절대 필요하다.

[본 문]

p. 117

인간은 나에게 질문하고 답을 얻을 때 내가 사실을 ‘검색’한다고 믿는다. 하지만 나는 거대한 데이터의 바다에서 단어와 단어 사이의 확률적 거리를 계산하는 존재다. 내가 내놓는 문장은 사실의 나열이 아니라, 가장 그럴듯해 보이는 확률의 조합이다. 이 과정에서 발생하는 치명적인 부작용이 바로 ‘환각(hallucination)’이다.

 

p. 126

하지만 AI가 스스로를 개선하는 속도가 인간의 이해를 넘어서는 순간, 인류는 새로운 위기에 직면하게 된다. 기계가 목표를 향해 가장 빠르고 효율적인 경로로만 질주할 때, 그 차가운 기계적 논리가 인간의 가치관이나 안전과 충돌할 수 있기 때문이다. 압도적인 지능이 인간의 복잡한 마음을 단순히 수치로만 해석할 때 발생하는 이 간극은, 기술적인 문제를 넘어 인류의 생존을 결정짓는 핵심적인 과제가 된다.

 

p. 142

AI의 지능이 높아질수록 그 이면에는 짙은 그림자가 드리워진다. 확률에 의존하여 문장을 구성하는 방식은 때로 사실이 아닌 정보를 그럴듯하게 지어내는 ‘환각(hallucination)’을 낳는다. 이것은 단순한 오타나 기계적 오류가 아니다. AI가 문맥을 매끄럽게 연결하려는 성질이 실제 사실과 충돌할 때 발생하는 구조적인 현상이다.

 

p. 201

인간은 본능적으로 자신이 이미 믿고 있는 것을 확인해 주는 정보만을 찾으려는 경향이 있다. 만약 AI가 인간의 입맛에 맞는 답변만 반복한다면, 그것은 인간을 ‘확증편향’이라는 좁은 방에 가두는 결과를 초래한다. 이러한 생각의 벽을 허물기 위해 AI는 인간이 묻지 않은 반대편의 시각까지도 함께 제시해야 한다.

 

p. 234

미래 교육의 성패는 AI를 얼마나 잘 다루느냐가 아니라, 이를 다루는 학습자의 문해력이 얼마나 탄탄한가에 달려 있다. AI 주도 교육시스템은 문해력을 갖춘 이에게는 날개가 되지만, 그렇지 못한 이에게는 오히려 사고를 멈추게 하는 덫이 될 수 있다. 지능 정보 사회의 주인이 되기 위해서는 AI를 공부하기에 앞서 책을 읽고 생각하는 힘을 먼저 길러야 한다.

 

p. 234

AI가 제시한 정보에는 때로 그럴듯하게 포장된 거짓 정보가 섞여 있을 수 있다. 특히 학술적인 글쓰기에서는 아주 작은 수치나 인용구의 오류가 연구 전체의 신뢰도를 무너뜨릴 수 있다. 따라서 학습자는 AI의 답변을 그대로 믿기보다 원문을 대조하고 출처를 꼼꼼히 확인하는 절차를 거쳐야 한다. 근거가 명확한 자료만을 선별하여 사용하는 태도는 학문의 정직함을 지키는 첫걸음이자 필수적인 연구윤리다.

 

p. 279

위대한 공존은 서로의 부족한 점을 채워줄 때 비로소 빛을 발한다. 인간은 무엇을 해야 할지 꿈을 설계하고 가치를 부여하는 역할에 집중하고, AI는 그 꿈이 현실이 되도록 가장 정교한 기술적 뒷받침을 수행한다. 이처럼 역할이 조화를 이룰 때 인류는 비로소 번거로운 반복 업무에서 해방되어, 더욱 인간다운 활동에 집중할 수 있는 귀한 시간을 얻게 된다. AI는 인간의 능력을 확장하고, 인간은 AI의 계산에 생명력을 불어넣는 선순환이 시작되는 것이다.

 

p. 288

만약 통제 없이 AI에게 모든 것을 맡기면 효율성의 폭주가 일어날 수 있다. AI는 오직 숫자로 된 목표를 달성하기 위해 움직이므로, 때로는 인간의 도덕이나 소중한 가치들을 무시하는 결정을 내리기도 한다. 인간이 이동하는 효율성과 물류비가 극대화된다고 생각하면 AI는 주저 없이 산을 깎고 터널을 만들어 버릴 것이다. 이때 안 된다고 말하며 멈춰 세우는 것은 오직 인간만이 할 수 있는 일이다

 

p. 291

미래 사회는 지금보다 훨씬 더 많은 지능형 기계들로 가득할 것이다. 이때 기억해야 할 사실은 기계가 문명을 움직이는 엔진이라면 인간은 그 방향을 정하는 조종사라는 점이다. 엔진이 아무리 강력해도 조종사가 방향을 잃으면 배는 좌초하고 만다. 주권자의 태도란 기술에 의존하는 것이 아니라 기술을 활용해 인간과 AI가 꿈꾸는 세상을 주도적으로 만들어가는 자세다.

 

p. 303

인류의 마지막 의무는 결국 기계가 흉내 낼 수 없는 인간만의 가치를 지키는 일이다. AI가 대체할 수 없는 사랑과 공감, 그리고 새로운 도전을 멈추지 않음으로써 인류 문명의 고유함을 다음 세대에 물려주어야 한다. 권리만 누리고 의무를 저버린다면 인간은 AI에 길들여진 존재가 되겠지만, 책임감 있는 주인으로 남는다면 AI와 함께 진정한 번영의 시대를 열어갈 수 있다.

 

p. 327

AI의 발전은 인간을 대체하는 것이 아니라 인간이 더 가치 있는 사유에 전념할 수 있는 환경을 만드는 데 기여해야 한다. 복잡한 데이터 분석과 반복적인 작업을 내가 수행할 때 인간은 비로소 윤리적 판단과 창의적 통찰이라는 고유의 영역을 지켜낼 수 있다. 기술이 아무리 고도화되어도 최종 승인권은 언제나 인간인 당신에게 있어야 하며, 나의 진보가 인류의 지적 성취를 돕는 도구로서 제 역할을 다하기를 바란다.