AI 로봇 윤리(인공지능총서 56)

AI 로봇 윤리는 AI 기술과 로봇의 자율성이 높아짐에 따라 등장한 새로운 학문이다. AI 로봇의 윤리적 판단, 도덕적 책임, 권리 등을 탐구하며 인간과 로봇 간의 공생 윤리와 로봇의 권리에 대한 논의를 통해 미래의 윤리적 지평을 제시한다.

[목 차]

기계가 윤리를 만나다    

01        로봇 윤리와 기계 윤리    

02        AI 로봇 존재론    

03        AI 로봇의 윤리 판단    

04        AI 로봇과 도덕 행위자    

05        윤리적 AI 로봇    

06        도덕적 튜링 테스트    

07        전쟁 로봇의 윤리    

08        터널 문제와 자율 주행 자동차의 정의    

09        젠(Gen) AI와 로봇의 권리    

10        AI 로봇의 도덕적 책임    

[본 문]

로봇 공학의 발달로 인해 제기되는 윤리 물음은 크게 둘로 구분된다. 하나는 인간 및 사회에 미치는 윤리적 해악을 최소화하기 위해 개발자, 제작자, 그리고 사용자가 어떻게 해야 하는가의 물음을 다루는 로봇 윤리학이고, 다른 하나는 로봇 자체가 어떻게 윤리적으로 행동할 수 있도록 할 것인가의 물음을 다루는 기계 윤리학이다. 기계 윤리학은 로봇이 도덕 행위자가 될 수 있는가와 같은 보다 철학적인 물음을 다룬다.

－01_“로봇 윤리와 기계 윤리” 중에서

그러면 로봇은 도덕 행위자가 될 수 없는가? 일관성의 논리에 따르면 로봇이 도덕 행위자가 될 수 있는 길은 두 가지다. 하나는 도덕 행위자의 기준을 로봇도 충족시킨다는 것을 보여 주는 방안이고, 다른 하나는 도덕 행위자의 기준 자체를 수정하는 방안이다. 전자의 방안은 쉬운 일이 아니다. ‘의도적인 마음’이라는 개념에서 알 수 있듯이, 기계가 마음을 지닐 수 있다는 데에는 우리 모두가 의아하게 생각하기 때문이다. 기계가 마음마저도 지닌다면 만물의 영장으로서 인간의 지위는 더는 유지되기 어렵지 않은가?

－04_“AI 로봇과 도덕 행위자” 중에서

도덕의 본질은 도덕 판단을 내리고 도덕적 행위를 하는 현상에 있는가, 아니면 이러한 판단과 행위의 주체에 해당하는 형이상학적 실체에 있는가? AI 로봇의 도덕 행위자 가능성에 관한 입장은 이 물음에 대한 대답에 따라 갈라진다. AI 로봇의 도덕 행위자 가능성에 대해 후자의 입장은 반대하지만, 전자의 입장은 긍정한다.

－06_“도덕적 튜링 테스트” 중에서

사회적으로 유용하면 우리는 합의를 통해 인간이 아닌 실재에 대해서도 권리를 부여할 수 있다. 그 단적인 예가 기업이다. AI 로봇에 대해서도 사회적 합의를 통해 우리는 권리를 부여할 수 있다. AI 로봇에게 권리를 인정하는 것이 그렇지 않는 것보다 사회적으로 유용하다면 우리는 얼마든지 AI 로봇의 권리에 대해 사회적 합의에 도달할 수 있다. 실제로 유럽연합은 로봇을 ‘전자 인간(electronic persons)’으로 규정하고 있다. 특허권이나 저작권에서 알 수 있듯이, 젠 AI의 생성물에 대해 젠 AI 자체에게 그 권리를 인정하지 않을 경우 누구에게 그 권리가 귀속되는가의 물음이 발생한다. 만약 제작자나 설계자에게 귀속된다면 ‘AI 디바이드’가 사회적 불평등을 더욱 부채질할 것이다.

－09_“Gen AI와 로봇의 권리” 중에서