AI와 기업 거버넌스(큰글자책)(AI문고)

AI가 기업의 의사 결정과 경영에 참여하는 시대에 권한과 책임을 어떻게 배분할 것인지 묻는다. 내부통제와 컴플라이언스, 이사회와 감사 등 적법성 거버넌스를 중심으로 AI의 지위와 역할을 검토하고, 정보 거버넌스·공익 추구·지속 가능한 이익 분배·인간의 감독이라는 새로운 원칙을 제시한다. AI문고. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

[목 차]

AI, 기업과의 동행

01 다트머스 논쟁과 AI의 등장

02 AI와 이사회

03 AI와 내부통제시스템

04 AI와 회계감사

05 AI와 기업법무

06 AI와 인사관리

07 AI와 노동조합

08 AI와 알고리즘 실패

09 AI에 대한 세계의 움직임

10 AI 시대의 기업 거버넌스 원칙

[본 문]

일반적으로 AI의 개념이 태동하게 된 시발점은, 1956년에 있었던 ‘다트머스 회의’로 본다. 이 회의는 다트머스 대학의 존 매카시(John McCarthy)의 주도로 개최되었으며, 이후 AI의 선구자가 된 마빈 민스키(Marvin Minsky), 클로드 섀넌(Claude Shannon) 등 저명한 컴퓨터·수학 연구자들이 함께 참가했다. 이 회의에서는 인간처럼 학습하고, 추론하며, 의사 결정을 할 수 있는 ‘생각하는 기계’의 창조가 제안되었다. 회의에서는 AI 개발의 올바른 방법론도 논의되었는데, 이에 관해서는 수리학이나 논리학을 사용하는 연역법적 방안과 데이터를 통한 통계적 분석이나 확률을 이용하는 귀납법적 방안의 두 가지 접근 방법이 검토되었다. 여기서 전자의 방식을 기호적 AI(symbolic AI)라 하고, 후자의 방식을 비기호적 AI​(non-symbolic AI)라 부른다.

－01_“다트머스 논쟁과 AI의 등장” 중에서

앞으로 인간과 AI의 분업에 의해 운영될 내부통제시스템은 그에 걸맞은 신뢰성과 적합성을 구비하여야 할 것이다. 여기서 말하는 ‘신뢰성’은 해당 업무 전권을 맡길 수 있는 위임 관계의 기초가 되는 신뢰 내지 신임 관계를 의미한다. 인간과 동등 이상의 지능을 보유하게 될 AI의 특성을 고려할 때, 인간들 사이의 위임 관계에 적용되는 신뢰의 기초를 상당 부분 적용하여도 무방할 것이다. 한편, 여기서의 ‘적합성’은 반드시 완벽을 의미하지는 않고, 필요한 개선을 지속적으로 실시하는 한 합리적인 시스템이라고 이해될 수 있는 정도면 된다. 어느 시대에나 기술 수준의 한계는 존재할 것이어서 완벽한 내부통제시스템까지 요구하는 것은 무리이며, 통상 상정되는 부정을 방지할 수 있는 정도의 리스크 관리 능력을 갖추었으면 내부통제시스템으로서 충분히 기능한다고 보겠다.

－03_“AI와 내부통제시스템” 중에서

인사관리 분야에서의 성과 평가는 ‘복잡성’이라는 특성을 내재하고 있다. (…) 가장 널리 사용되는 지표인 성과 평가 점수는, 타당성과 신뢰성의 문제뿐만 아니라 편향의 문제 때문에 광범위한 비판을 받아 왔으며, 이 때문에 많은 기업들이 이러한 평가제도를 아예 포기하고 있기도 하다. 또, 어느 정도 복잡성을 가진 직무라면 다른 직무들과 상호의존적인 관계에 있기 때문에, 개인의 성과를 집단의 성과로부터 분리하여 평가하는 것도 어렵다. 그렇다면 인간이 수행하는 성과 평가 자체의 질이 불확실한 상황에서, 과연 그러한 평가 자료를 AI 알고리즘의 학습 자료(training data)​로 사용할 수 있을까? 그렇게 한다면 인간이 내린 자의적인 판단이나 심지어 명백히 차별적인 판단이 AI를 통해 대규모로 확대·재생산되는 결과를 초래할 수도 있을 것이다. 결국, AI 성과 평가에서도 데이터의 편향은 극히 유의하여야 할 문제가 된다.

－06_“AI와 인사관리” 중에서

EU 인공지능법(AI Act)은 EU 집행위원회가 2021년 4월 법안을 제안한 이후, 2024년 3월 유럽의회 본회의의 최종 의결과 같은 해 5월 EU 이사회의 최종 승인을 거쳐 성립하였다. 이후 2024년 8월 1일 발효되었으며, 2025년 2월 2일부터 핵심 규정들이 단계적으로 적용되기 시작했다. EU 인공지능법은 AI가 초래할 수 있는 위험의 정도에 따라 규제의 강도를 달리하는 위험 기반 접근 방식(risk-based approach)을 채택하고 있다. 일반적으로 AI 시스템은 허용할 수 없는 위험(unacceptable risk), 고위험(high risk), 제한적 또는 투명성 위험(limited or transparency risk), 최소 또는 무위험(minimal or no risk)의 네 유형으로 설명된다.

－09_“AI에 대한 세계의 움직임” 중에서