AI 인격과 칸트(인공지능총서)

AI가 인간의 역할을 대신하며 자율적 결정을 내리는 시대가 도래하면서 AI에 인격을 부여할 수 있는지에 대한 논쟁이 뜨겁다. 칸트 철학에서는 인격이 자율성과 도덕적 책임을 전제로 하지만, 현재 AI는 논리적 연산만 수행하므로 인격적 존재가 될 수 없다고 본다. 그러나 강인공지능의 가능성을 배제할 수 없으며, 칸트의 관점에서도 AI 인격체가 될 가능성이 남아 있다. AI 인격 논쟁을 칸트 철학의 관점에서 분석하며, AI와 인간의 새로운 윤리적 관계를 모색한다.

[목 차]
  

AI 인격체의 가능성, 그리고 칸트

 

01 AI를 정의하는 두 가지 방식

02 인격과 전자 인격

03 사실적 관점과 당위적 관점

04 AI 인격체에 대한 기대와 흥분

05 AI 인격체에 대한 우려와 두려움

06 전자 인격 논쟁과 칸트의 인격 개념

07 자기의식과 AI

08 자율성과 AI

09 종 주의 대 로고스 중심주의

10 약인공지능에 대한 윤리적 고려

[본 문]
  

인공지능을 정의하는 두 번째 방식과 관련해 지능의 특성이 반드시 인간 지능과의 유사성을 통해 이해될 필요가 없다는 점은, 생물학적 인간종 이외에 인공지능에도 인격의 지위를 부여하는 가능성에 대한 논의가 개념적으로 가능하다는 점을 시사한다. 왜냐하면 합리적으로 사고하고 바람직한 목표를 설정하며 그러한 목표를 실현하기 위해 환경적 변화에 적절히 대응할 뿐 아니라 장기간 일관된 행동 방식을 유지할 수 있는 인공지능에 대한 개념적 논의가 가능하다면, 그러한 인공지능은 자신의 행위에 책임을 질 수 있는 법적·도덕적 주체로서의 사회적 역할 또한 수행할 수 있을 것으로 기대될 것이기 때문이다. 더 나아가 지능의 특성을 인간 지능과의 유사성을 통해 이해하고자 하는 방식에서도 인공지능에 인격의 지위를 부여하는 가능성이 원천적으로 배제되지 않는다. 만일 인공지능이 지능적인 인간과 유사하거나 동일한 방식으로 판단하고 행동하는 것을 모방할 수 있다면, 그렇게 구현된 인공지능이 인간과 유사하거나 동일한 방식으로 자신의 행위에 대한 책임을 자기 자신에게 귀속할 수 있을 것으로 기대될 것이기 때문이다.

－01_“AI를 정의하는 두 가지 방식” 중에서

 

다음으로, 인공지능 로봇은 권리를 가질 수 있기 때문에 로봇은 권리를 가져야 한다고 주장하는 두 번째 입장에 대해 살펴보자. 이 두 번째 입장은 기술적이거나 사실적인 차원에서 로봇이 권리를 가지는 것이 가능하기 때문에, 로봇에게 권리를 귀속하는 것이 규범적이고 당위적인 차원에서 바람직하다고 주장한다. 현재까지 개발된 인공지능은 특정 분야에서만 문제 해결 능력을 보여 주는 약인공지능 수준에 머물러 있지만, 미래에 인간만큼이나 다양한 분야에서 일반적인 문제 해결 능력을 보여 줄 수 있는 강인공지능이 출현하는 경우, 해당 인공지능에 권리를 귀속하는 것이 바람직하다는 것이다.

－03_“사실적 관점과 당위적 관점” 중에서

 

인격에 대한 칸트의 관점에 따르면, 목적과 행위 규칙을 스스로 정립할 능력이 없는 약인공지능은 실로 인격적 존재자가 될 수 없다. 약인공지능의 과제와 메커니즘은 기본적으로 인간 설계자가 설정한 것이기에, 약인공지능이 보여 주는 행위의 자유도는 여전히 인간 설계자의 의도에 의해 크게 제약되어 있다. 따라서 약인공지능은 스스로 행위 규칙을 정립해 자유롭게 행위하며, 자신의 행위에 대한 책임을 스스로에게 귀속할 수 있는 인격적 주체로 생각하기 어렵다.

－06_“전자 인격 논쟁과 칸트의 인격 개념” 중에서

 

미래에 이성적 사유와 행위 귀책 능력을 갖춘 것으로 상상되는 강인공지능이 출현하게 된다면, 칸트의 위와 같은 로고스 중심주의는 로봇에게 인간이 누리는 것과 유사한 권리를 부여할 근거로 활용될 수 있을 것이라는 점에서, 전자 인격의 가능성이나 인공지능이 도덕적인 행위자가 될 수 있는지를 연구하는 문헌이 종종 인격에 대한 칸트의 관점을 단순히 종 주의적인 인간 중심주의로 특징짓는 것은 의아한 측면이 있다. 가령 인공지능 로봇을 윤리적 고려의 대상 안으로 포함할 것을 적극적으로 고려하며 칸트의 의무론적 윤리학에 비판적인 마크 코켈버그(Mark Coeckelbergh)조차 칸트의 규범 윤리학을 종 주의적 인간 중심주의에 기반한 것으로 이해하지 않는다.

－09_“종 주의 대 로고스 중심주의” 중에서