[목 차]
책을 시작하기에 앞서
여는 말을 대신하여 – 장밋빛 기대와 엇갈린 재앙과 위험
제1부 인공지능 시대의 도래
1장 다양한 분야에서의 인공지능
1. 일상생활 및 교육 분야
∙ 일상생활 속에서의 인공지능 기술
∙ ‘에이전트 기반 전자상거래’ 시대
∙ 인공지능 기반 교육용 시스템과 도구
2. 보건의료 및 제약 분야
∙ 보건의료 분야에서의 실용적 접근
∙ 의료영상 판독 및 진단용 인공지능
∙ 홈 헬스케어 로봇의 기능과 작동 원칙
∙ 인공지능 기술을 활용한 신약 개발
3. 금융 및 법률 분야
∙ 인공지능 기술을 활용한 금융업
∙ 인공지능 투자자문역 로보어드바이저
∙ 생성형 인공지능의 활용과 리걸테크
2장 인공지능 시대의 쟁점
1. 인공지능 로봇과 인간
∙ 인공지능 로봇과 피지컬 인공지능
∙ 휴머노이드 로봇과 감정 인식 로봇
∙ 인공지능 섹스 로봇의 등장과 진화
∙ 인공지능 로봇과 인간의 관계
∙ 인공지능 로봇의 법적 지위와 권리
2. 트랜스휴머니즘과 인간의 미래
∙ 트랜스휴머니즘과 뇌·컴퓨터 인터페이스
∙ 트랜스휴머니즘의 낙관적 전망과 희망
∙ 트랜스휴머니즘에 대한 철학적·기술적 비판
∙ 트랜스휴머니즘에 대한 윤리적·사회적 비판
3. 인공지능 예술과 가상 인플루언서
∙ 인공지능 기술을 활용한 예술
∙ 창작의 보완적 동반자로서의 인공지능
∙ 가상 인플루언서의 등장과 활동
∙ 가상 인플루언서의 사회적·윤리적 쟁점
제2부 인공지능에 대한 비판적 고찰
1장 인공지능의 부정적 영향과 결과
1. 인공지능 기술 자체의 문제
∙ 생성형 인공지능의 ‘환각’ 현상
∙ 오픈 소스의 보안 위협
∙ 자율주행 자동차와 적대적 공격
2. 인공지능 기술의 역기능과 부작용
∙ 자율살상무기 시스템과 사이버 공격
∙ 딥페이크와 가짜뉴스
∙ ‘알고리즘·데이터’ 편향으로 인한 차별
∙ 생성형 인공지능과의 동반자 관계
3. 민주주의와 포스트휴먼 시대
∙ ‘디지털 파놉티콘’과 파놉티콘 감시
∙ 민주주의에 대한 위협과 부정적 영향
∙ 새로운 인간으로서의 포스트휴먼
∙ 포스트휴먼 시대의 사회적·정치적 문제
4. 일자리 감소와 환경 문제
∙ 노동환경의 변화와 일자리 퇴출
∙ 인공지능 기술로 인한 실업 문제
∙ 대량 실업으로 인한 사회적 갈등
∙ 인공지능 기술로 인한 환경 문제
2장 고전적 기술철학자의 고찰과 경고
1. 자크 엘륄의 기술 사상과 인공지능
∙ ‘기술 담론’에 대한 비판
∙ 기술의 자율성과 인공지능
∙ 기술의 양면성과 인공지능
2. 인공지능의 한계와 신성화된 인공지능
∙ 인공지능의 한계와 관련된 지적
∙ 인공지능의 한계에 대한 반론
∙ 신성화된 인공지능에 대한 비판
∙ 새로운 신화로서의 인공지능
3. 한스 요나스의 책임 윤리와 인공지능
∙ 기술 시대의 윤리로서의 책임 윤리
∙ 인공지능과 관련된 책임 윤리의 지침
∙ 인공지능 기술의 위험 요소와 책임 윤리
3장 인공지능 전문가와 사상가의 경고
1. 스튜어트 러셀과 초인적 지능
∙ 초인적 지능의 위험에 대한 경고
∙ 인공지능의 위험을 반박하는 주장에 대한 비판
2. 무스타파 술레이만과 인공지능 기술 억제
∙ 인공지능 기술에 대한 규제와 억제
∙ 인공지능 기술의 억제를 위한 단계
3. 닉 보스트롬과 초지능 인공지능
∙ 인류의 생존을 위협하는 초지능 인공지능
∙ 초지능 인공지능을 통제하는 방법
4. 유발 노아 하라리와 쓸모없는 계급
∙ 쓸모없는 계급으로 전락할 수 있는 인간
∙ 진화된 인공지능의 위험에 대한 경고
제3부 인간을 위한 인공지능
1장 윤리적 쟁점과 인공지능 윤리
1. 인공지능과 관련된 윤리적 쟁점
∙ 인공지능의 딥러닝과 ‘투명성’
∙ 인공지능의 편향성과 ‘알고리즘 편향’
∙ ‘책무성’과 ‘감사가능성’
2. 생명미래연구소와 국제전기전자공학자협회
∙ 생명미래연구소의 ‘아실로마 인공지능 23원칙’
∙ 국제전기전자공학자협회의 ‘윤리적 조율 설계’
3. 경제협력개발기구, 유네스코, 한국
∙ 경제협력개발기구의 ‘인공지능 윤리 원칙’
∙ 유네스코의 ‘인공지능 윤리 권고’
∙ 한국의 인공지능 윤리기준
2장 인공지능 관련 법 제도와 국제 협약
1. 유럽연합의 법 제도
∙ 유럽연합의 ‘일반개인정보보호규정’
∙ ‘유럽연합 인공지능법’의 장점과 특징
∙ ‘유럽연합 인공지능법’의 규제 사항
2. 미국, 중국, 한국의 법 제도
∙ 미국의 ‘알고리즘 책임법’
∙ 미국의 인공지능 패권 유지 전략
∙ 중국의 인공지능 기술 규제
∙ 한국의 ‘인공지능 기본법’
3. 인공지능 관련 국제 협약과 선언
∙ ‘히로시마 인공지능 프로세스’와 ‘브레츨리 선언’
∙ ‘국제 인공지능 안전 보고서’
∙ 인공지능 관련 공개서한과 성명서
3장 새로운 인공지능 시대를 향하여
1. 인공지능과 인간의 공존
∙ 인공지능으로 인한 재앙적 위험
∙ 공존 관계와 협력적 파트너십
∙ 신뢰할 수 있는 인공지능
2. 새로운 인공지능을 위한 방향
∙ 인간의 창의성과 인간다움의 특성
∙ ‘인공지능 격차’로 인한 불평등과 소외
∙ ‘인공지능 디톡스’를 향한 발걸음
3. 모두를 위한 인공지능 생태계
∙ 인공지능과 관련된 행위 주체별 책임
∙ 인공지능 생태계를 위한 ‘참여적 거버넌스’
∙ 지속 가능한 인공지능을 위한 방안
책을 마무리하며
인공지능 관련 용어
인공지능 관련 자료
외국어 약어
주(註)
참고문헌
[본 문]
“인공지능 개발의 성공은 인류 역사상 가장 큰 사건이 될 수 있지만,
위기를 피하지 못한다면 이것이 마지막이 될 수도 있다.”
“인공지능 기술을 섬기는 것이 아니라,
그 한계를 인식하고 도구로 사용하는 자세가 필요하다.”
“인공지능은 인류에게 최고의 기회가 될 수도, 최악의 재앙이 될 수도 있다.”
인공지능 개발의 성공은 인류 역사상 가장 큰 사건이 되겠지만, 우리가 위기를 피하는 법을 배우지 않는다면 이것이 마지막이 될지도 모른다. 우리는 역사상 인류에게 일어날 최고의 상황 또는 최악의 상황에 직면해 있다.
- 스티븐 호킹Stephen Hawking
‘초인적 지능’을 향한 행군을 멈출 수 없어 보이나 그 성공은 인류의 파멸이 될 수도 있다. 인간보다 더 지적인 존재가 되라는 잘못된 목표를 인공지능에 부여한다면, 인공지능은 이 목표를 기어코 달성할 것이고 결국 인류에게 파국이 올 것이다.
- 스튜어트 러셀Stuart Russel
인공지능 기술을 제대로 통제하지 못하면 재앙적 결과를 초래할 수 있다. 인공지능 기술에 대한 억제는 인공지능으로 인한 재앙을 막기 위해 인류가 통제권을 유지하도록 하는 ‘가드레일’이다.
- 무스타파 술레이만Mustafa Suleyman
인간 지능보다 수십 배, 수백 배 더 뛰어나고 매우 강력한 힘을 지닌 ‘초지능 인공지능’이 인류를 지배할 미래의 통치자가 될 것이다. ‘초지능 인공지능’이 어떤 행동을 통해 어떤 결과를 산출할지 예측이 어렵고, 이는 매우 위험한 결과로 이어질 가능성이 높다.
- 닉 보스트롬Nick Bostrom
인공지능은 인간이 예측하거나 파악하기 어려운 무수히 많은 종말 시나리오를 제시한다. 특히, 인간과 이질적인 지능의 계산에서 나온 시나리오여서 인간의 머리로는 도저히 상상할 수 없는 종말 시나리오도 있을 것이다.
- 유발 노아 하라리Yuval Noah Harari
인공지능으로 인한 멸종 위험의 완화가 팬데믹이나 핵전쟁 같은 다른 사회적 규모의 위험과 함께 글로벌 차원에서 우선순위가 되어야 한다.
- ‘인공지능 안전센터’Center for AI Safety의 성명서
- 본문 중에서
AI 충격을 지나 AI가 일상이 되고 삶에 스며드는 단계로 접어든 지금, 우리는 이전과는 전혀 다른 시대의 문턱에 서 있다. 인공지능은 더 이상 먼 미래의 기술이 아니다. 이미 우리의 선택을 돕고 결정을 유도하며 교육과 의료, 금융과 노동의 구조를 조용하지만 근본적으로 바꾸고 있다.
이 책은 바로 그 변화의 한가운데에서 출발한다. 지금 이 순간, 세상은 어떻게 바뀌고 있는지, 그리고 우리는 이 거대한 흐름 앞에서 어떤 선택을 해야 하는지를 차분하고 균형 있게 묻는다.
책은 인공지능을 단순한 기술이 아니라 시대를 재편하는 힘으로 바라본다. 뉴스 추천과 자동완성 같은 일상적인 기능에서부터 의료 진단과 신약 개발, 금융 의사결정과 법률 서비스에 이르기까지 인공지능은 이미 인간의 판단과 행동 깊숙이 개입하고 있다. 나아가 개인 비서 에이전트와 자동화된 소비의 확산은 인간이 직접 하지 않아도 되는 영역을 빠르게 넓혀가고 있다. 이러한 변화는 효율의 문제가 아니라 인간의 역할과 의미 자체를 다시 정의하는 문제로 이어진다.
기술이 발전할수록 새로운 질문도 함께 생겨난다. 우리는 인공지능의 판단을 어디까지 신뢰할 수 있는지, 알고리즘의 편향과 통제 문제를 어떻게 다루어야 하는지, 인간의 일과 가치는 앞으로 어떻게 달라질 것인지 고민하게 된다. 이 책은 다양한 전문가와 사상가들의 논의를 바탕으로 인공지능이 만들어낼 수 있는 가능성과 위험을 동시에 조망한다. 인공지능은 인류에게 가장 큰 기회가 될 수도 있고, 통제하지 못할 경우 가장 큰 위기가 될 수도 있다는 사실을 차분하게 보여준다.
이 책이 강조하는 핵심은 기술 자체가 아니라 방향이다. 인공지능은 인간을 대체하는 존재가 아니라 도구이며, 그 도구를 어떻게 사용할 것인가는 결국 인간의 선택에 달려 있다. 기술이 인간을 이끄는 것이 아니라 인간이 기술을 이끌어야 한다는 점에서, 이 책은 윤리와 제도, 책임과 공존이라는 문제를 함께 제시한다.
인공지능에 대한 정보는 넘쳐나지만, 그것을 하나의 흐름으로 이해하기는 쉽지 않다. 이 책은 흩어진 논의를 정리하고 지금 벌어지고 있는 변화를 구조적으로 이해할 수 있도록 돕는다. 빠르게 변하는 시대 속에서 무엇을 믿고 어떤 방향을 선택해야 하는지 고민하는 독자에게 이 책은 분명한 기준을 제시한다.
결국 이 책이 말하는 것은 단순하다. 인공지능의 미래는 이미 시작되었고, 그 미래의 방향은 아직 결정되지 않았다. 그리고 그 방향을 결정하는 주체는 기술이 아니라 인간이다.
이 책은 인공지능을 이해하는 데서 멈추지 않고, 그 시대를 살아갈 태도까지 생각하게 만드는 책이다.