공공기관 AI Handbook - 도입부터 성과까지 단계별 실무 지침서

단순한 AI 툴 사용법을 넘어, 공공 행정 프로세스 전면 재설계(AX)로 나아가는 완벽 가이드!

2026년 AI 기본법 시행과 경영평가 지표 신설로 공공기관의 AI 전환(AX)은 이제 선택이 아닌 ‘필수 생존 전략’입니다. 본 핸드북은 기획·인사·IT·감사등 공공기관 전 부서 실무자와 관리자가 현장에서 즉시 활용할 수 있는 국내 유일의 ‘공공 AI 종합 지침서’ 입니다. AI기본법에 대한 대응방안, 과제 발굴부터 AI 기반의 BPR/ISP 및 프로젝트 추진 방법, AI기반 윤리·업무 규정 수립 방안, AI거버넌스 수립을 비롯하여 RAG, 에이전틱 AI 등 실무적으로 반드시 알아야 할 AI 도입·활용의 전 과정을 4단계 로드맵으로 제시합니다.

 

1. 공공 AI의 이해

- 고영향 AI평가, AI공시를 비롯한 AI기본법 대응 및 경영평가 지표 대응 방안

2. AI도입 및 활용

- AI 과제 발굴, AI 기반 BPR/ISP, 프로젝트 추진 방법, 윤리규정, 업무규정 수립 및 성과 관리 체계

3. 공공의 특성을 감안한 AI기술적 요소

- 망분리 대응 및 RAG적용 방안, 공공기관에 적합한 에이전틱 AI 구현 방안,AI 배포 관리(MLOps), AI 활용을 위한 데이터 파이프라인 구축 방안

4. AI 거버넌스 체계

- AI리터러시, AI 거버넌스 체계 구축, AI활용에 따른 리스크매니지먼트, 보안 관리

 

□ [주제별 모듈형 구성] 필요한 영역만 바로 활용할 수 있도록 주제별 모듈형 구성

□ [실무 서식 제공] 프로젝트를 위한 샘플 RFP, AI 윤리 규정(예시), AI 업무 규정(예시) 및 각 종 필요 실무 서식 수록

[목 차]

프롤로그. 왜 모든 구성원이 AI를 이해해야 하는가

 

Chapter 01. AI 개요

Part 1. Al란 무엇인가 - 3가지 비유로 이해하기

Part 2. AI의 발전 역사

Part 3. AI의 종류 - 공공기관 직원이 꼭 알아야 할 3가지

Part 4. Al vs 인간 - 협업이 최선이다

Part 5. 공공기관 AI 실제 활용 사례

Part 6. AI를 잘 활용하는 법 - 프롬프트와 RAG

Part 7. AI의 한계와 주의사항

Part 8. 공공기관 AI 도입의 성공 조건

Part 9. AI활용 vs AX(Al Transformation) - 단계별 이해

Part 10. 우리 기관 AI 도입 - 5단계 실행 가이드

Part 11. 직원들이 가장 많이 묻는 Q&A

Part 12. 핵심 정리

 

Chapter 02. 공공기관 AI 정책•제도 현황

Part 1. 한국 AI 정책 추진 역사 (2019~2026)

Part 2. 국가 AI 추진체계 - 조직•역할 분담

Part 3. 핵심 부처별 AI 정책 상세

Part 4. AI 기본법 & 공공기관 관련 주요 법령 체계

Part 5. 국가 AI 윤리기준 & 안전성 체계

Part 6. 해외 선진국 AI 정책 벤치마킹 - 5개국 비교

Part 7, 공공기관 AI 도입 지원 사업 활용 가이드

Part 8. 국내 공공기관 AI 도입 사례

Part 9. 공공기관 AI 정책•제도 대응 자가 진단

Part 10. 핵심 정리

 

Chapter 03. Al 활용 (Utilization & Use Cases)

Part 1. AI 활용의 개념과 원칙

Part 2. 공공기관 AI 활용 6대 영역

Part 3. AI 활용 성숙도 모델 (5단계)

Part 4. AI 활용도 측정 방법 - 경영평가 대응 핵심

Part 5. AI 활용의 3대 장벽과 돌파 전략

Part 6. 경영평가 연계 전략

Part 7. AI 활용 과제 발굴 워크숍 (실전 도구)

Part 8. 핵심 정리

 

Chapter 04. AI 과제 발굴 및 관리 (Task Discovery & Management)

Part 1. AI 과제 발굴의 개념과 목적

Part 2. AI 과제 도출 7단계 프로세스

Part 3. AI 과제 3대 유형 분류 체계

Part 4. AI 과제 우선순위 평가 매트릭스

Part 5. AI 과제 정의서 - 양식 및 작성 가이드

Part 6. 과제 정의서 작성 샘플 - 가상 과제 3선

Part 7. AI 과제 관리 체계

Part 8. 핵심 정리

 

Chapter 05. AI 도입을 위한 BPR

Part 1. 왜 AI 기반 BPR이 필요한가 - 공공기관이 가장 많이 간과하는 단계

Part 2. 일반 BPR과 AI 기반 BPR - 무엇이 어떻게 다른가

Part 3. AS-IS → 일반 BPR → AI BPR - 3단계 비교로 이해하기

Part 4. AI 기반 BPR 추진 방법 - 단계별 구체 접근법

Part 5. AI 기반 ISP - BPR 결과를 시스템 로드맵으로 연결

Part 6. 변화 관리 - 기술보다 사람이 BPR 성패를 결정한다

Part 7. 핵심 산출물

Part 8. 핵심 정리

 

Chapter 06. AI 프로젝트 추진 방법론

Part 1. AI 프로젝트 추진 방법론 전체 개요

Part 2. AI 도입을 위한 예산 편성 방법 [신규•강화]

Part 3. AI 프로젝트 RFP 작성 방법 [신규•강화]

Part 4. Phase 0. 기획•준비 단계 (4~8주)

Part 5. Phase 1. 분석•설계 단계 (4~8주)

Part 6. Phase 2. 데이터 준비 단계 (4~12주)

Part 7. Phase 3. 개발•구축 단계 (8~20주)

Part 8. Phase 4. 테스트•검증 단계 (4~8주)

Part 9. Phase 5. 배포•운영 단계 (지속)

Part 10. AI 프로젝트 품질 게이트 통합 요약

 

Chapter 07. AI 도입•활용 성과 관리

Part 1. 왜 AI 성과 관리가 가장 어려운가 - 그리고 왜 가장 중요한가

Part 2. AI 성과 측정 3대 차원 – Outcome • Output • Progress

Part 3. Outcome 성과 측정 방법론

Part 4. Output 성과 측정 - 양•질•효율 균형 KPI 설계

Part 5. Progress 추진 진도 관리 - 단계별 이행 측정 체계

Part 6. 기준선(Baseline) 설계 & Before-After 비교 방법론

Part 7. AI 성과 관리 시스템 구축 - 기술 아키텍처

Part 8. 공공기관 AI KPI 설계 실전 - 업무 유형별 사례

Part 9. AI 투자 대비 효과(ROI) 분석

Part 10. 경영평가 연계 AI 성과 관리 - 실무 가이드

Part 11. AI 성과 관리 운영 체계 - 정기 리뷰 사이클 & 환류

Part 12. AI 성과 대시보드 설계 & 3개년 구축 로드맵

Part 13. 핵심 정리

 

Chapter 08. Al 리터러시 & 데이터 리터러시 & AI 거버넌스

Part 1. 왜 공공기관 임직원에게 AI 리터러시가 필요한가

Part 2. AI 리터러시 4대 구성 요소 - 공공기관 적용 기준

Part 3. 데이터 리터러시 - AI 리터러시의 필수 전제 조건

Part 4. AI 역량 5단계 모델 - 진단과 육성 체계

Part 5. AI 리터러시 교육 커리큘럼 설계와 운영

Part 6. AI 거버넌스 - 공공기관 구축 방안

Part 7. AI 윤리 거버넌스 -공공기관의 공정성•책임성 확보

Part 8. AI 리터러시 x 데이터 리터러시 x 거버넌스 3개년 통합 실행 계획

Part 9. 핵심 정리

 

Chapter 09. AI 윤리•업무 규정 제정

Part 1. 왜 지금 AI 규정이 필요한가 - 필요성과 법적 의무

Part 2. 공공기관 AI 관련 법규 체계 전체 지도

Part 3. AI 윤리 규정- 무엇을 담아야 하는가

Part 4. AI 업무 규정 - 무엇을 담아야 하는가

Part 5. 법규 연계 종합 체크리스트 - 규정 완결성 확인

Part 6. 규정 제정 6단계 절차

Part 7. 핵심 정리

 

Chapter 10. AI 리스크 매니지먼트 (Risk Management)

Part 1. 왜 AI 리스크 관리가 최우선인가?

Part 2. AI 리스크 7대 유형 분류 체계

Part 3. AI 리스크 평가 매트릭스 - 우선순위 결정

Part 4. 리스크 유형별 세부 내용 & 대응 방안

Part 5. AI 리스크 관리 프레임워크 - 5대 구성 요소

Part 6. AI 리스크 관리 5단계 프로세스

Part 7. 핵심 리스크 지표 (KRI) & 리스크 보고 체계

Part 8. 리스크 레지스트리 & AI 도입 전 사전 영향평가

Part 9. 리스크 대응 4대 전략 & 사고 대응 런북

Part 10. AI 리스크 거버넌스 & 성숙도 & 3개년 로드맵

Part 11. 핵심 정리

 

Chapter 11. AX 데이터 매니지먼트 (AX Data Management)

Part 1. AX(AI Transformation)와 데이터 - 핵심 원칙

Part 2. AX 관점 데이터 리터러시

Part 3. AX를 위한 데이터 거버넌스

Part 4. AX 데이터 정제 & 품질 관리

Part 5. AX 데이터 플랫폼 - 구축 전략 & 아키텍처

Part 6. AX 데이터 성숙도 모델 & 3개년 구축 로드맵

Part 7. 핵심 정리

 

Chapter 12. AX 데이터 파이프라인 (AX Data Pipeline)

Part 1. 핵심 메시지 - 데이터 파이프라인이 AI의 성패와 지속가능성을 결정한다

Part 2. 데이터 파이프라인 전체 구조 - 6단계 흐름과 3대 공통 레이어

Part 3. 공공기관 데이터 환경의 5대 구조적 제약

Part 4. 파이프라인 6단계 상세 실행 가이드 - 수집•정제•통합•저장

Part 5. 데이터 품질 관리와 AI 드리프트 방지

Part 6. RAG 파이프라인 - 공공기관 최적 AI 활용 구조

Part 7. 망분리 환경 설계 • ETL/ELT • 권장 기술 스택

Part 8. 파이프라인 거버넌스- 지속 운영의 제도적 기반

Part 9. 데이터 파이프라인 성숙도 모델 & 3개년 구축 로드맵

Part 10. 핵심 정리

 

Chapter 13. Al 구축 (Architecture & Implementation)

Part 1. 공공기관 AI 구축의 개념과 특수성

Part 2. 공공기관 IT 환경의 3대 제약

Part 3. AI 구축 방식의 유형과 선택 기준

Part 4. 구축 단계 추진 로드맵

Part 5. LLM 도입 방식과 선택 기준

Part 6. 핵심 기술: RAG(Retrieval-Augmented Generation)

Part 7. AI 구축 타당성 진단 체크리스트

Part 8. 핵심 정리

 

Chapter 14. AI 배포 관리 (MLOps & LLMOps)

Part 1. 핵심 메시지 - 배포 관리가 AI 운영의 승패를 결정한다

Part 2. MLOps 전체 사이클 - 지속적 개선 자동화 루프

Part 3. CI/CD 파이프라인 & AI 배포 전략

Part 4. 모델 버전 관리 & 모델 레지스트리

Part 5. LLMOps- 프롬프트 관리 & RAG 운영 & 파인튜닝

Part 6. AI 서비스 모니터링 체계 - 4대 감시 영역

Part 7. 모델 드리프트 감지 & 자동 재학습 파이프라인

Part 8. AI 서비스 장애 대응(Incident Response)& SLA(Service Level Agreement, 서비스수준협약) 관리

Part 9. 공공기관 특수 요건 - 보안 배포 & 규정 준수

Part 10. MLOps•LLMOps 도구 & 성숙도 & 3개년 로드맵

Part 11. 핵심 정리

 

Chapter 15. 에이전트 AI 아키텍처 설계 & 보안 대응

Part 1. 핵심 메시지 자율성은 강력한 만큼 위험하다.

Part 2. 에이전트 AI(Agentic Al)란 무엇인가

Part 3. 공공기관 멀티 에이전트 시스템(MAS) 아키텍처

Part 4. MCP(Model Context Protocal) 아키텍처

Part 5. 공공기관 에이전트 AI 설계 7대 원칙

Part 6. 에이전트 AI 보안 위협 지형도 - 4대 핵심 위협

Part 7. 에이전트 AI 보안 대응 체계

Part 8. 공공기관 에이전트 AI 보안 거버넌스

Part 9. 에이전트 AI 보안 사고 대응 런북

Part 10. 공공기관 에이전트 AI 도입 & 보안 3개년 로드맵

Part 11. 핵심 정리

 

부록. AI 운영 수준 자가진단 (Self Check)