AI와 고용 차별(AI총서)

인공지능을 활용한 채용과 공공 고용서비스에서 통계적 차별과 알고리즘 편향이 어떻게 발생하는지 인권·노동권 관점에서 분석한다. 유럽연합과 국제 기구의 규범, 해외 고용서비스 사례를 검토하며, 보호가 필요한 집단을 우선하는 설계 원칙과 인간 개입 강화 방안을 제안한다. 인공지능을 고용 차별 완화의 정책 도구로 활용할 길을 모색하는 안내서다. AI총서. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

[목 차]

AI와 고용 차별, 그리고 정책의 역할

01 고용 분야에서 AI 활용

02 고용 분야에서 AI 활용의 위험성

03 AI의 차별

04 디지털 고용서비스의 AI 활용

05 AI 기반 고용서비스의 통계적 차별

06 AI의 통계적 차별에 대한 법적 대응

07 AI의 통계적 차별에 대한 정책적 대응

08 AI 기반 고용서비스와 프로파일링

09 고용서비스 분야 통계적 차별의 대응 방법

10 AI 기반 고용서비스 정책의 방향

[본 문]

고용 분야에서도 AI를 활용해서 의사 결정을 하는 궁극적인 목적은 인간의 결정을 AI가 대신하도록 하여 효율성을 증대하고 자원을 절약하기 위해서다. 또한 지금은 AI에 의한 고용 분야의 차별 문제가 대두되고 있지만, AI의 활용 초기에는 AI에 의한 결정이 인간의 결정에 비해 편견을 배제할 수 있어 더욱 객관적이라는 믿음도 있었다. 최근에는 AI에 의한 분석 결과를 기업의 인사 전문가나 리쿠르터(recruiter)가 참고하기 위해서 활용하는 것에서 더 나아가 AI 도구가 인간의 결정을 완전히 대체하는 사례가 늘어나고 있다.

－01_“고용 분야에서 AI 활용” 중에서

AI가 예측을 위해 알고리즘을 활용하는 것 자체 때문에 통계적 차별이 발생하는 것이지 분석 자료나 알고리즘에 문제가 있어서 차별이 발생하는 것은 아니다. 예를 들어, 노동시장에서 차별이 존재하지 않는다고 하더라도, 즉 알고리즘의 분석 자료에 문제가 없다고 하더라도, AI 시스템의 분석에서 이민자나 고령자와 같은 노동시장 취약 계층은 평균적인 구직자보다 고위험 구직자로 분류될 가능성이 커서 통계적 차별의 대상이 된다. 또한 알고리즘에 편향성이 반영되는 등의 문제가 없더라도 차별이 발생한다. 이러한 이유로 통계적 차별과 알고리즘의 편의(algorithmic bias)는 깊은 관련성이 있다.

－03_“AI의 차별” 중에서

EU 회원국에 국내 입법 절차가 필요 없이 직접 효력을 가지는 EU의 규정(Regulation) 제정 이외에, 회원국 자체적으로도 AI의 활용을 규제하고자 하는 움직임이 나타난다. 예를 들어, 2021년 독일 AI-사회적 책임과 경제적, 사회적, 생태적 잠재력에 관한 조사위원회의 최종 보고서는 AI가 가져올 다양한 위험성을 해결하기 위해 투명성, 추적성 및 설명 가능성의 중요성을 강조했다. 특히 채용에서 AI 활용에 따른 차별 문제가 나타나 미국과 유럽 등에서는 AI를 활용한 채용을 규제하려는 움직임이 나타나고 있다.

－06_“AI의 통계적 차별에 대한 법적 대응” 중에서

AI가 고용 분야에서 활용되면서 변화될 내용은 무엇이며, 이에 대해 어떻게 대응해야 할까? 우선 민간 부문의 AI 활용에 대한 규제 및 감독이 필요할 것이다. 이에 대한 구체적인 대응 방안은 법적인 규제가 민간 부문에서 지켜지고 있는지 감시하고 감독하는 것이다. 또한 정부 정책 등 공공 부문에서 AI를 활용하면서 발생하는 고용 차별에 대응해야 한다. 이를 위해서는 고용서비스를 포함한 정책 전반에 대해서 AI의 분석 결과에서 편향성이 나타나는지 감시·감독하고, AI 분석 결과를 활용하면서 차별 문제가 발생할 가능성에 대해서 적극적으로 대응해야 한다.

－09_“고용서비스 분야 통계적 차별의 대응 방법” 중에서