공공부문 인공지능 전환과 행정법(행정법 연구총서 2)

1. 인공지능(AI)이 눈부신 기술 발전을 보이며 그 활용가능성을 무한확장하는 가운데 공공부문 또한 인공지능사회로의 전환과정에서 전환의 편익을 확대하고 위험을 제어할 과제를 부여받고 있다. 행정 〮입법 〮사법을 망라한 국가활동은 인공지능기술의 사회적 확산을 조성하고 공공영역에서 AI를 활용함으로써 사회적 편익을 확대하되, 공공부문에서 AI 활용이 가져올 수 있는 사회적 위험을 제거함으로써 기술 이용의 신뢰 기반을 확보해야 한다. 이러한 과제는 공적 영역과 사적 영역을 가릴 것 없이 인공지능 전환이 적용되는 모든 분야의 과제인바, 그러한 목적을 구현할 법적 토대인 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(‘인공지능기본법’)의 규율은 공공부문의 AI에 대해서도 적용되는 것이 원칙이다(본서 [8] 참조). 이를테면 인공지능개발사업자 〮이용사업자 〮이용자일 수도 있는 공적 주체는 인공지능기본법이 부여하는 여러 의무를 준수하면서 신뢰의 기반 속에 AI를 활용하여야 한다.

2. 그런데 공공영역의 AI 전환은 별도로 공공영역의 고유한 속성과 그에 따른 규범 및 법 원칙을 기반으로 전환과정을 준비해야 한다. 국가활동은 법치주의와 민주주의 원칙 내에서 작동한다. 국가는 대외적으로 주권의 확립을, 대내적으로 국민의 기본권을 보장하는 한편, 그 활동에서 공적 이익과 평등, 공정, 포용 등의 공적 가치를 존중해야 한다. 절차적 정당성 〮투명성 등 절차적 정의도 담보해야 한다. 이처럼 공공영역의 작용방식을 결정짓는 규범적 기준은 AI 활용으로 고도화되어 가는 디지털화된 행정활동의 경우에도 원칙적으로 다를 것이 없다. 따라서 공공영역의 AI 전환에서 이러한 규범적 기준을 확인하고 이것이 제도적으로 뒷받침될 필요성을 규명하는 작업이 선행되어야 한다(본서 [1]~[5]).

3. 물론 인공지능의 활용을 확산하고 인공지능사회로의 전환을 촉진하는 것 또한 공익과 공적가치의 차원에서 중요한 의미를 가진다. ‘AI 국가전략’을 수립하고 AI 투자와 이용을 통해 공공부문이 인공지능 생태계의 실험과 확산의 주요 거점으로 활용되는 전략을 실행하는 한편, AI 생태계의 주요 여건과 기술을 국가 단위에서 통제할 수 있도록 안전장치를 마련하는 것은 국가경쟁력 확보와 주권의 온전한 행사를 위해 필요하다.

인공지능 전환에 관한 국가의 활동은 법제도적 기반을 전제로 추진될 수 있다. 이에 공공부문의 바람직한 인공지능전환을 가능하게 하는 전제적 요소들을 확인하면서 그에 관한 법적 기반을 살필 필요가 있다. 가령 AI 기술발전의 원료라 할 데이터 활용과 관련하여 이전의 「데이터기반행정법」을 개정하여 「인공지능 및 데이터기반 행정 활성화에 관한 법률」(‘공공 AI법’)으로 시행(2026. 8. 28.)하게 된 점은 대표적인 예이다(본서 [6]). 「디지털포용법」을 제정, 시행(2026. 1. 22.)한 것(본서 [5])도 그러한 노력의 연장선상에서 이해할 수 있다. 무엇보다 공공영역에서의 AI 전환은 데이터 차원을 넘어 모델, 클라우드, 운영 〮보안체계 등에서 안전하고 복원력을 가지는 물적 토대로서의 인프라를 구축해야 한다. 이 책에서는 AI 활용 공공서비스를 국민이 이용하기에 용이하도록 하는 디지털정부 플랫폼 제공을 별도로 다루었다(본서 [7]). 별도의 법이 제정되기까지는 인공지능기본법이 공공분야 AI와 관련해서도 그 위험을 취급하는 법제적 기반이다(본서 [8]).

4. 이처럼 국가활동에 대한 규범적 원칙을 확인하고 그에 필요한 법제도적 기반구축을 살피는 일은 행정법학자들에게 친숙한 작업이다. 행정법학자들은 특히 행정활동의 특정한 국면(대표적으로 행정처분)을 중심으로 작용의 적법과 위법, 권리 〮의무의 영향을 분석하는 데 능하다. 이에 행정법학자들이 중심이 된 이 책의 필자들은 인공지능 전환 시대 공공부문의 행정법 체계 규율을 온고이지신(溫故而知新)의 관점에서 적용하여 과거의 해법으로부터 새로운 문제해결의 실마리를 확인하는 작업을 전개하였다. 대표적으로 행정법학의 법리에서 다루어지던 이른바 자동화된 행정결정에 관한 법적 규율과 행정절차법 〮행정작용법 법리 및 권리구제 〮국가책임법리를 AI가 적용된 행정활동의 법적 취급 전반으로 확장하는 접근을 하였다(본서[9]~[12]). 이것은 행정법학자들이 자신들의 특징을 살려 행정법일반이론의 현대화를 모색한 예라 할 것이다. 이에 이 책의 글들은 처음부터 이러한 집필목적을 위해새롭게 쓰거나 기존논문이 있더라도 상당 정도 수정을 가한 글들로서 기존 논문의 묶음이 아닌 단행연구서를 지향한 작업이었다는 점에서도 의미가 있다.

5. 공적 영역이라고 하더라도 개별 행정영역의 특성과 이익상황에 따라 별도의 취급이 필요함은 물론이다. 이 책에서는 최근의 사회적 관심을 받는 국방, 교육, 사법 영역에서의 AI 활용을 주요한 예로서 살피고자 하였다(본서 [13]~[15]). 이들 영역은 AI 활용의 요청이 그 어느 영역보다 많지만 다른 한편으로 AI 사용이 해당 영역 고유의 가치 등과 충돌하는 측면 또한 고려해야 하는 분야이다. 이 책에서 선택한 몇몇 분야에 대한 연구들을 통해 공공부문에서의 AI 활용 또한 개별 영역(도메인)에 따른 개별구체적인 접근이 더 풍부하게 이루어져야 함을 알 수 있게 될 것이다. 필자들은 향후 질서행정, 인프라행정, 사회보장행정 등 분야별 공공영역 AI 활용에 대한 검토를 확장해 나갈 것을 기약하기로 한다.

6. 이 책에 대한 기획의 출발은 편저자가 2024년 행정법이론실무학회의 회장을 맡으면서 디지털 사회 전환의 공법적 문제를 연구하는 내부 포럼을 결성하고 두 권의 학회 연구총서 발간을 기획한 것이었다. 인공지능기본법 주석 작업의 경우 관련 영역에서의 전문가들과 협업할 필요가 컸다고 할 수 있지만, 그에 비해 이 책의 주제는 공공부문에서 인공지능의 적용에 관심을 가진 행정법이론실무학회의 회원들이 참여하기에 안성맞춤이었다. 포럼의 구성원들은 수차례에 걸쳐서 모여 각자의 원고에 대한 검토의 모임을 가졌다. 포럼에 열정적으로 참여하고 쉽지 않은 공동작업을 함께 해준 저자들께 감사드린다. 무엇보다 당시 학회 집행부의 일원으로서 이 책의 기획단계에서부터 필진 참여, 출간, 원고 감수에 이르기까지 노고를 아끼지 않은 김혜진 교수, 최명지 교수께 감사드린다. 또한 출간을 끝까지 격려하고 지지해 준 행정법이론실무학회의 송시강 〮박재윤 회장(2025 〮2026년)을 비롯한 학회원들, 출간과 편집 작업 과정에서 번거로움을 마다하지 않은 박영사의 최동인 과장, 장유나 차장께도 감사의 말씀을 드린다. 이 책이 오늘도 계속되고 있는 인공지능 전환의 과정에서 공공부문에서의 인공지능 규율 원리를 이해하고 새로운 질서를 형성해 나가는 데 길잡이가 되기를 희망한다.

2026. 8.

필자를 대표하여 편저자 김태호

[목 차]

제1장 공공부문 인공지능 활용과 법 원칙

01 | 디지털 전환과 공공부문 인공지능 활용의 법적 원칙 [선지원]....... 3

02 | 인공지능행정과 공적의사결정의 공정성 [최명지]....................... 29

03 | 디지털 행정과 기본권 [김후신].................................................. 57

04 | 공적 영역의 자동화와 인공지능: 알고리즘적 차별에 대한 국가의 책임을 중심으로 [정해빈].......... 81

05 | 디지털 행정의 디지털 포용과 인공지능 [이은상]...................... 105

제2장 디지털 정부 활동에서 인공지능 활용 기반과 법 규율체계

06 | AI 정부 구현을 위한 행정데이터 활용의 법적 쟁점 [김태오]..... 133

07 | 플랫폼으로서 디지털 정부의 AI 기술 활성화와 전제요소 [김법연].................................................................. 161

08 | 공적 주체의 인공지능 활용에 관한 법적 규율체계의 일 고찰 [이현수]..................................................................... 201

제3장 인공지능전환과 일반행정법이론

09| 자동화된 행정결정과 행정작용 [이진수].................................. 227

10| 공행정에서 생성형 인공지능의 활용과 규율 [배기철]................ 253

11 | 자동화된 행정결정: 행정구제 [최계영].................................... 279

12 | 자동화된 행정결정: 국가배상 [박현정].................................... 305

제4장 개별 행정영역에서의 인공지능 법규율

13 | AI와 국가안보 [최대선].......................................................... 327

14 | 인공지능과 교육: 공법적 쟁점과 과제 [김혜진]........................ 355

15 | 재판과 인공지능 [이희준]....................................................... 381