AI와 신뢰의 철학(큰글자책)(AI문고)

‘신뢰할 수 있는 AI’라는 말을 철학적으로 검토한다. 정확하고 효율적인 시스템이면 충분한가, 아니면 우리는 그 너머의 책임과 관계를 요구하는가. 이 책은 신뢰를 이성적, 정서적, 규범적 차원으로 나누어 AI와 인간의 관계를 분석한다. AI를 인간처럼 여기지도, 단순한 도구로 축소하지도 않는다. 중요한 것은 우리가 무엇을 누구에게 맡기고 있으며, 실패했을 때 책임이 어디에 놓이는가다. AI문고. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

[목 차]

계산된 신뢰를 넘어

01 ‘신뢰할 수 있는 AI’라는 수사

02 의존적 믿음과 규범적 신뢰의 분기

03 신뢰의 구성 요소로 본 AI 신뢰의 가능성

04 기술적 체계에 인격적 신뢰는 가능한가

05 AI에 대한 의탁 혹은 도구적 신뢰

06 배신감의 현상학: 기계는 우리를 기만하는가

07 정서적 신뢰: AI와 인간의 유사-관계성

08 기계에게 선의를 물을 수 있는가

09 책임의 윤리: 규범적 신뢰의 구축과 조건

10 인공지능 시대의 새로운 믿음 체계

[본 문]

결국 이 책이 던지는 질문은 비교적 명확하다. 우리가 AI를 신뢰한다고 말할 때 정확히 무엇을 의미하는가. 그것은 단지 잘 작동할 것이라는 기대인가, 아니면 더 두터운 도덕적 의미를 담은 관계적 태도인가. 만일 후자라면, AI는 정말로 그런 관계의 대상이 될 수 있는가. 그리고 만일 그렇지 않다면, 오늘날 정책과 윤리 담론이 반복해서 사용하는 ‘신뢰할 수 있는 AI’라는 표현은 어디까지 정당화될 수 있는가.

－01_“‘신뢰할 수 있는 AI’라는 수사” 중에서

결국 신뢰는 불확실성을 완벽하게 제거하는 일이 아니다. 도리어 불확실함이 여전히 남아 있는 상황 속에서도, 기꺼이 위험을 감수하고 타인에게 마음의 자리를 내어주는 결단, 그것이 바로 신뢰의 진짜 모습이다. 이제 신뢰를 이루는 핵심 요소들이 무엇인지 조금 더 명확해진다. 상대가 행동하리라는 내가 갖는 ‘자신감’, 그 일을 성공적으로 해낼 수 있다는 상대방의 ‘능력’에 대한 믿음, 상대에게 나의 소중한 부분을 내어주어 내가 받을 수 있는 나의 ‘피해 가능성’, 그리고 기대가 어긋났을 때 느끼는 ‘배신감’의 가능성이 그것이다.

－03_“신뢰의 구성 요소로 본 AI 신뢰의 가능성” 중에서

따라서 지금 우리에게 필요한 것은 정서적 요소 자체를 신뢰 담론에서 제외하는 것이 아니라 그것이 실제로 가리키는 현상이 무엇인지를 새롭게 규명하는 일이다. 신뢰의 핵심은 감정의 유무 자체라기보다 상대가 나의 취약성과 기대를 어떤 방식으로 수용하고 이를 자신의 판단과 행동 속에 통합하는가에 있다. 만약 정서적 차원을 오직 인간 내부의 주관적 감정 상태로만 국한하여 이해한다면 신뢰가 가진 본연의 관계적 성격은 오히려 은폐되고 만다. 정서적 차원을 상대 지향성, 기대에 대한 민감성, 그리고 관계의 훼손을 방지하려는 실천적 태도라는 관점에서 재해석해 볼 여지는 충분하다.

－06_“배신감의 현상학: 기계는 우리를 기만하는가” 중에서

특히 현재와 미래 사이의 간극을 메우는 것은 ‘AI를 만드는 이들’에 대한 신뢰다. 사람들이 미래의 AI를 믿을 수 있을지 가늠할 때, 실제로는 지금 AI를 설계하는 개발자와 운영 주체들이 어떤 태도와 목표를 가졌는지에 눈을 맞추고 있을 가능성이 크다. 그들이 공공성을 얼마나 중시하는지, 위험 요소를 얼마나 투명하게 관리하는지, 또 오류가 발생했을 때 책임을 회피하지 않는지. 미래 신뢰의 핵심은 바로 여기에 있다. 결국 “AI를 신뢰할 수 있는가”라는 질문은 상당 부분 “그 기술을 만든 인간 집단을 신뢰할 수 있는가”라는 질문으로 귀결된다. 일상에서 우리가 “AI를 신뢰한다”고 말할 때, 그것은 기술 자체에 대한 믿음이자 동시에 그 기술 뒤에 숨은 인간 공동체에 대한 느슨한 연대감인 셈이다.

－09_“책임의 윤리: 규범적 신뢰의 구축과 조건” 중에서