AI 범죄와 윤리적 책임 주체(큰글자책)(AI문고)

AI는 공정함의 대안처럼 도입되지만, 사고와 범죄가 발생하면 책임 주체가 불명확해진다. 이 책은 AI 범죄의 다양한 경우를 통해 책임의 귀속 기준을 점검하고, AI 윤리가 인간의 가치와 공존의 조건임을 밝힌다. AI문고. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

[목 차]

AI 윤리의 필요성

01 AI 시대의 도래와 사건 사고들

02 AI 살인 범죄를 다룬 대중 매체

03 AI 학대

04 AI 가스라이팅

05 카렐 차페크의 《R.U.R》

06 웹툰 〈인간적인, 너무나 인간적인〉

07 청소년 SF 임태운의 〈로봇 짝꿍〉

08 청소년 SF 최영희의 〈안녕, 베타〉

09 웹툰 〈인간의 온도〉와 〈AI가 세상을 지배한다면〉

10 자율주행차 사고에서 윤리적 책임 주체

[본 문]

AI의 시대가 도래하고 인간은 AI 덕분에 편리하고 윤택한 생활을 누리게 될 것이라고 기대했다. 그러나 어느 순간부터 AI에 대한 부정적 감정들을 접하게 된다. 공포, 분노, 무기력 등과 같은 부정적 감정들은 AI가 인간의 삶을 위협한다고 느끼기 때문일 것이다. AI에게 일자리를 뺏길지도 모른다는 불안, AI 때문에 사고가 나서 불구가 됐다는 원망, AI 때문에 사회로부터 소외당하고 차별당한다는 억울함, AI 시대에 쓸모없는 사람으로 버려질 거라는 자포자기 등의 심리는 AI에 대한 참을 수 없는 ‘분노’로 표출된다.

－01_“AI 시대의 도래와 사건 사고들권” 중에서

AI 챗봇뿐만 아니라 AI 로봇을 발로 걷어차거나 부수는 등의 행위에 대해서도 논란이 일고 있다. 로봇에게도 동물권과 같은 도덕적 지위가 보장되어야 한다는 의견과 로봇은 감정이 없어서 아픔을 느끼지 않기 때문에 괜찮다는 의견으로 갈리고 있다. 그런데 이제 AI 로봇이 더 발전하게 되면 우리는 ‘AI 챗봇이나 AI 로봇을 어떻게 대해야 하는가’에 대해 고민해 보아야 하지 않을까 한다.

－03_“AI 학대” 중에서

ENA 드라마 〈아이쇼핑〉은 인간의 이기적 욕망이 어디까지 갈 수 있는지의 끝을 보여 준다. 인간은 AI 로봇이 마음에 들지 않으면 ‘시스템 종료’를 하고, 구매한 물건이 마음에 들지 않으면 ‘환불이나 반품’을 한다. 그런데 드라마 〈아이쇼핑〉은 제목 그대로 아이를 쇼핑하고 구매한다. 아기가 자신의 욕구에 부합하지 않으면 불량품으로 환불을 요구하거나 반품 처리한다. 반품 처리는 폐기 처분을 의미하고 그것은 곧 죽이라는 살인 지시다. ‘인간적인 로봇’을 죽이는 것과 물건 취급된 인간을 죽이는 것을 같은 사건으로 볼 수 있는가.

－06_“웹툰 〈인간적인, 너무나 인간적인〉” 중에서

웹툰 〈AI가 세상을 지배한다면〉은 AI를 사용하는 인간이 ‘선한 의도’가 아닐 경우의 위험성을 경고한다. AI 범죄는 인간의 의도가 개입될 수밖에 없다. 인간의 의도에 따라 어떤 AI를 만들지가 결정되기 때문이다. 그러나 인간은 불완전하고 유한한 인생을 살기 때문에, 인간의 의도가 모든 경우 선할 것이라고 확신할 수 없으며 인류에게 이로울 것이라고 장담할 수 없다. 어떤 의도로 개발하는지, 어떤 목적으로 활용할 것인지에 대한 명확한 윤리적 기준이 마련되어야 할 것이다.

－09_“웹툰 〈인간의 온도〉와 〈AI가 세상을 지배한다면〉” 중에서