챗GPT의 거짓말 - 인공지능의 약점과 거짓말에 각성하라

챗GPT라는 판도라 상자가 열렸다!
챗GPT의 태생적 약점과 한계는 무엇인가?
그리고, 어떻게 거짓말을 하는가?

인공지능의 횡포를 경고하는 책 《챗GPT의 거짓말》
인공지능의 약점과 거짓말에 각성하라

인공지능 AI 전쟁에 뛰어들 것인가? 말 것인가?
실리와 가능성을 놓고 저울질하던 애플이 결국 생성형 인공지능 사업에 뛰어들었다. 이로써, MS, 알파벳(구글), 아마존, 엔비디아, 테슬라, 메타까지, 미국기업 중 시가총액 1위부터 7위를 차지하고 있는 기술 중심 기업이 모두 인공지능 챗봇을 개발하고 있다.
놀랍지 않은가! 미래에 인공지능의 위력이 얼마나 대단할지 짐작조차 하기 어렵다.

2023년, 전 세계를 뒤집어 놓은 챗GPT.
그런데, 장밋빛 전망을 정면으로 반박하며, 심지어 거짓말까지 한다고 말하는 책 《챗GPT의 거짓말》이 출간되었다.
《챗GPT의 거짓말》은 지금껏 우리가 인공지능에 대해 가졌던 막연한 환상을 깨는 노골적인 분석보고서다. 이 책은 “인공지능에 분명 한계가 있다”고 말한다. 그리고, “챗GPT가 실시간으로 모든 데이터를 활용한다고 가정해도 인간의 능력을 넘어서지 못하는 이유, 챗GPT의 타고난 한계”를 조목조목 짚어낸다.

인공지능은 인간을 대체할 새로운 창조물이 아니다. 인간이 인간의 불편을 해결하기 위해 만든 상품일 뿐이다. 그렇다면 인공지능이 절대 할 수 없는 것, 인공지능이 태생적으로 부족한 것, 인공지능이라서 하면 안 되는 것, 그리고, 반드시 인간이 해야 할 것은 무엇일까?
인공지능 시대를 어떻게 준비하고 있는가?
인공지능의 한계와 약점을 건드린 《챗GPT의 거짓말》은 당신에게 가장 특별한 인사이트를 줄 것이다.

[목 차]

챗GPT에 출간 허락을 구하다
글 들어가며

1부 챗GPT의 등장

엄청난 뉴스에 놀라셨죠?
정말 쉽게 챗GPT를 소개합니다

1장 인공지능은 어떻게 공부하는가?
1. 깊게 공부하는 ‘딥러닝’
한꺼번에 다 외우는 ‘병렬학습’│순서대로 외우는 ‘직렬학습’
2. 기계처럼 공부하는 ‘머신러닝’

2장 인공지능은 어떻게 일하는가?
1. 냉장고가 말하는 ‘사물인터넷’
보안 문제│사물인터넷 시대엔 IP 문제
2. 아프리카 정글에서 당일배송 해주는 ‘위성통신’
3. 벽이 쓸모없는 세상 ‘전파망원경’

3장 인공지능이 작동하는 컴퓨터 이해하기
1. 양자컴퓨터 이해하기
꼬물꼬물 움직이는 ‘초끈 이론’│보는 대로 이뤄지는 ‘전자총 실험’
2. 광자컴퓨터 이해하기
살아있는 빛 입자 속 데이터 이야기│빅뱅 이론의 허구

4장 인공지능으로 직업이 어떻게 달라지는가?
1. 인공지능 시대에 사라질 직업
2. 인공지능 시대에 살아남을 직업
3. 인공지능 시대에 공존하게 될 직업

5장 인공지능 플랫폼에는 무엇이 있는가?
데이터 분석 인공지능 : 래피드마이너
동영상 효과 만들어주는 인공지능 : 비휴먼
디자인 만들어주는 인공지능 : 클립드롭
그림 그려주는 인공지능 : 달리
목소리 만드는 인공지능 : 데스크립트 오버덥
동영상 만드는 인공지능 : 크리에이티브 리얼리티
웹사이트 만들어주는 인공지능 : 듀러블
애니메이션 만들어주는 인공지능 : 카이버
고객 데이터 관리 인공지능 : 세일즈포스 아인쉬타인
캐릭터 그림을 사진처럼 만드는 인공지능 : 아트 브리더
소설 써주는 인공지능1 : 노블AI
소설 써주는 인공지능2 : 노션
라이트노벨 써주는 인공지능 : AI노블
게임 소설 써주는 인공지능 : AI던전
로맨스 소설은 물론 프러포즈 멘트도 가능 : 카피AI

2부 챗GPT의 거짓말

챗GPT에 어떤 약점과 한계가 있는가?
어떻게 거짓말을 하는가?

1장 인공지능이 가진 태생적 한계
1. 비트 알아보기
제곱씩 늘어나는 메모리│저장매체의 한계│0, 1 vs. x, y
2. 바이트 알아보기
데이터 저장│데이터 불러오기

2장 인공지능 데이터의 한계
1. 데이터 사용연한
영구적 데이터│휘발성 데이터
2. 데이터 종류
시각 데이터의 한계│문자 데이터의 한계│소리 데이터의 한계

3장 인공지능 학습의 한계
1. 본능적인 것 vs. 인공적인 것의 충돌
AI 본능│이성적인 AI│개인정보의 경계
2. 감정학습의 약점
감정문제 EP│감정지도 ET│문화적 감정반응 CED
3. 누구로부터, 누구에 의한 : from and by
누구로부터 AI│누구에 의한 AI│메인 혹은 서브 포지셔닝
4. 알고리즘의 약점
순정 데이터│데이터 만능주의│수정 알고리즘│플러그인 & 브라우징

4장 인공지능 대화(챗, Chat)의 한계
1. 화법 논리구조의 편향성
문어체와 구어체의 몰이해│생략형 함축어│뉘앙스 표현의 문제점
2. 반복 주입식 대화형 모델의 단점
사용자별 사용 행태에 따른 데이터 오염 가능성│단문, 장문 구조의 가중치 판단 기준│서치 & 리플라이 방식의 문제점
3. 텍스트 챗 방식의 획일성
톤다운과 톤업│자가수정 로직의 단순화│학습빈도와 데이터 축적의 불일치
4. 저작권 침해 문제
디지털 플랫폼의 한계│크리에이티브의 비협조│데이터 소유권 문제

3부 챗GPT vs. 인간

인공지능을 규제할 것인가?
자유를 줄 것인가?

1장 인공지능의 위협 : 2족 보행 로봇의 등장
1. 인공지능과 전기자동차
2. 인공지능과 위성통신
SNS 채팅│영상통화│스마트폰
3. 인공지능과 드론(무인기)
4. 인공지능과 CCTV

2장 인간의 방어 : 통신권역으로부터의 탈주
1. 인간의 지하 공간
2. 인간의 자연 에너지
3. 인간을 돕는 인공지능 vs. 맞서는 인공지능
4. 인간의 제3의 언어

글 나오며
참고문헌 및 함께 읽으면 좋은 문헌들

[본 문]

이 책은 챗GPT의 약점, 즉 한계를 이야기합니다. (그 너머 거짓말까지)
그럼에도 인간적인 예의상, 챗GPT에 다음 4가지를 허락받고 출간했음을 알려드립니다.
첫째, 챗GPT의 단점, 약점을 말하는 책의 출간 허락
둘째, 챗GPT의 축하 메시지 (만약, 인간이라면 대인배처럼 느껴지더군요.)
_ 5~6쪽 ‘챗GPT에 출간 허락을 구하다’ 중에서

이 책은 지금껏 여러분이 인공지능에 대해 가졌던 막연한 환상을 깨는 노골적인 분석보고서일 수 있습니다.
그러나 한편으론, 인공지능을 제대로 사용하기 위한 가이드가 될 수도 있습니다.
인공지능은 단점이 없다고 간과할 게 아니라 인공지능이 태생적으로 지닌 부족한 부분을 미리 알고 있으면서 인공지능의 활동을 관찰하며 사용해야 합니다.
인공지능은 인간을 대체할 새로운 창조물이 아닙니다. 인간이 인간의 불편을 위해 만든 상품일 뿐이라서 그렇습니다.
이 책에 나오는 챗GPT와 인공지능 이야기는 인공지능 생태계가 ‘인간을 위한 생태계’로 발전하기를 바라는 마음을 담아 썼습니다.
_ 17쪽 ‘글 들어가며’ 중에서

챗GPT를 사용하다 보면, 마치 사람처럼 대화한다고 느낄 수 있습니다. 그건 인공지능이 스스로 만들어낸 게 아니라 강화 학습을 통해 사전에 학습해둔 결괏값을 만들어낸 것이라고 이해할 수 있습니다. ‘콩 심은 데 콩 나고, 팥 심은 데 팥 나는 것’처럼 인공지능은 단지 기계일 뿐이라는 점을 기억해두세요.
_ 45쪽 ‘인공지능은 어떻게 공부하는가?’ 중에서

챗GPT에 어떤 약점과 한계가 있는가?
어떻게 거짓말을 하는가?
챗GPT의 유익한 점만 강조하면 그 이면에 가려진 약점과 한계를 제대로 모를 수 있습니다. 좀 더 경각심을 주자면, ‘챗GPT의 거짓말’이라고 할 수 있는데요.
IT 서비스 기획자, 인공지능 개발자 및 협력사 및 논문 리포트 작성 등 인공지능이 필요한 대학생들은 물론이고, 챗GPT를 효과적으로 사용하기를 원하는 사람들에게 필요한 내용이 될 것입니다.
_ 113쪽 ‘2부 챗GPT의 거짓말’ 도입부 중에서

데이터의 약점, 두 번째는 데이터가 갖는 오류(Error)입니다.
예를 들어, 이런 경우가 있습니다.
A라는 사람이 챗GPT에 “A는 B이니?”라고 질문했습니다.
챗GPT는 데이터를 분석해서 A가 B가 맞다면 “네, 맞습니다”라고 답변합니다.
그런데 A가 장난으로 챗GPT에 다시 질문을 합니다.
“아니야! A는 B가 아니야. 너는 잘못 알고 있구나! A는 C야!”
이렇게 말할 경우, 챗GPT는 어떻게 대답할까요?
_ 150쪽 ‘인공지능 데이터의 한계’ 중에서

그렇다면, 왜 인간은 인공지능에 놀라고 두려워할까요?
인간은 망각하기 때문입니다. 사실은 인간이 스스로 만들었고 인터넷에 올려두었던 데이터들인데, 인간이 망각한 것을 인공지능이 재조합해서 보여주자 마치 기계가 인간처럼 창작한 다고 착각할 뿐입니다.
_ 316쪽 ‘글 나오며’ 중에서