실전 AX 리포트 - 1개에서 52개 계열사로 국내 대기업 AX 팀의 AI 확산 실전 기록

지금까지의 AX 이야기는 손에 잡히지 않는 무지개 같았다.
직접 부딪히고 확인한, AI 도입과 확산의 진짜 기록

AI를 도입하지 않은 기업을 찾기 어려운 시대다. 그런데 AI가 실제 업무에 녹아든 기업은 얼마나 될까? 이 책은 그 간극 앞에 선 한 팀의 기록이다. 상용 솔루션을 도입했다가 10% 사용률에 좌절했고, 자체 플랫폼을 만들면서 PoC 지옥을 경험했으며, 전사 확산을 시도하다 조직 저항이라는 벽에 부딪혔던 대기업 AX 팀의 시행착오가 가감 없이 담겨 있다.

한 부서에서 시작해 52개 계열사, 35,000명에게 닿기까지. 전략 설계와 경영진 설득, 플랫폼 아키텍처와 모델 운영, 유통·제조·서비스 산업별 실전, 기간계·외부 AI 연동, 조직·교육·문화가 차례로 이어진다. 그 모든 과정에서 무엇을 고민했고 어떤 기준으로 결정했는지가 함께 남아 있다. 같은 간극 앞에 선 팀이라면, 이 기록을 통해 한 발짝 앞서 출발할 수 있다.

[목 차]

PART 1 AX, 왜 대부분 실패하는가

 

CHAPTER 1 AX의 현실: 선언과 실행 사이의 간극

_1.1 'AI 도입했습니다'와 'AI로 일하고 있습니다'의 차이

_1.2 국내 대기업 AX 현황과 실패 패턴 분석

_1.3 PoC 지옥: 왜 파일럿에서 전사 확산으로 넘어가지 못하는가

 

CHAPTER 2 AX를 바라보는 잘못된 프레임

_2.1 기술 도입 ≠ AX

_2.2 '킬러 유스케이스'에 대한 집착이 만드는 함정

_2.3 조직이 AI를 거부하는 진짜 이유

 

PART 2 AX 전략 설계: 실무자가 경영진을 설득하는 법

 

CHAPTER 3 AX 로드맵 수립: 톱다운과 바텀업의 균형

_3.1 경영진이 원하는 것 vs. 현장이 필요한 것

_3.2 3단계 AX 로드맵: 체험 → 내재화 → 혁신

_3.3 로드맵 설계 실전: 전략과 현장을 연결하는 법

 

CHAPTER 4 ROI 없이 시작하고, ROI로 증명하기

_4.1 AX 초기에 ROI를 요구하면 안 되는 이유

_4.2 정량적 성과 측정 프레임워크

_4.3 경영진 보고: 숫자를 이야기로 만드는 법

_4.4 ROI를 넘어서: AX 성과의 장기적 관점

 

CHAPTER 5 예산 확보와 투자 의사결정

_5.1 AI 플랫폼 구축 비용 구조 해부

_5.2 내재화 vs. 외부 솔루션 도입 의사결정

_5.3 벤더 선정 프레임워크와 협상 포인트

_5.4 예산 승인을 위한 제안서 구조

 

PART 3 AI 플랫폼 구축: 전사 AI 인프라 만들기

 

CHAPTER 6 전사 AI 플랫폼 아키텍처 설계

_6.1 왜 챗봇이 아니라 플랫폼이어야 하는가

_6.2 멀티 테넌시 설계: 여러 계열사를 하나의 플랫폼으로

_6.3 LLM 게이트웨이, RAG 파이프라인, 권한 체계 설계

_6.4 아키텍처 진화 과정: 1.0 → 2.0 → 3.0 그리고 4.0

 

CHAPTER 7 AI 모델 선택과 운영 전략

_7.1 상용 LLM vs. 오픈 소스 LLM

_7.2 멀티모달 모델 활용 전략

_7.3 멀티 모델 전략: 업무별·비용별 최적 라우팅

_7.4 비용 최적화: 토큰 사용량 모니터링과 관리

_7.5 모델 업데이트 대응 전략

 

CHAPTER 8 멀티 에이전트 시스템 설계와 구축

_8.1 단일 챗봇에서 멀티 에이전트로

_8.2 에이전트 아키텍처 패턴

_8.3 에이전트의 기술적 구성: Tool Use, Function Calling, MCP

_8.4 에이전트 간 협업 구조

_8.5 실전 에이전트 설계

_8.6 에이전트 평가와 품질 관리

 

CHAPTER 9 보안과 거버넌스

_9.1 기업 데이터가 LLM으로 유출되지 않게 하는 방법

_9.2 프롬프트 인젝션 방어

_9.3 개인정보 필터링

_9.4 계열사별 데이터 격리와 접근 제어

_9.5 AI 사용 정책과 컴플라이언스

_9.6 거버넌스 운영 체계

 

PART 4 전사 확산: PoC에서 대규모 프로젝트로

 

CHAPTER 10 파일럿에서 전사 롤아웃까지

_10.1 파일럿 대상 선정과 성공 조건 설계

_10.2 단계별 확산 전략: 1개 계열사에서 52개 계열사까지

_10.3 계열사별 맞춤 배포 전략

_10.4 롤아웃 체크리스트와 타임라인

 

CHAPTER 11 사용자 온보딩과 활성화

_11.1 35,000명을 AI 사용자로 만드는 온보딩 설계

_11.2 프롬프트 템플릿 라이브러리

_11.3 사용자 세그먼트별 접근법

_11.4 활성화 지표와 개선 사이클

 

CHAPTER 12 AI 챔피언 육성과 조직 내 확산

_12.1 AI 챔피언 프로그램

_12.2 우수 사례 발굴과 공유 체계

_12.3 사내 AI 커뮤니티 운영

_12.4 저항을 협력으로 바꾸는 일

 

PART 5 산업별 AX 실전: 이렇게 적용했다

 

CHAPTER 13 유통 AX

_13.1 문화센터 강좌 AI 개인화 추천 서비스

_13.2 마트 육류 지방 비율 추론 및 품질 판별

_13.3 앱스 인 챗GPT: 24개 계열사 동시 진입

 

CHAPTER 14 생산·제조 AX

_14.1 건설 특화 AI 실시간 번역

_14.2 제품 라벨 검토를 위한 한도견본 AI

_14.3 Vision AI 기반 스마트팜 모니터링

 

CHAPTER 15 서비스·인프라 AX

_15.1 금융권 보안 기준을 충족한 구축형 AI 플랫폼

_15.2 공항철도 지하철 혼잡도 분석

_15.3 수영장 안전 모니터링

 

CHAPTER 16 공통 업무 AX

_16.1 회의록 자동화와 액션 아이템 추출

_16.2 자료조사와 문서 작성

_16.3 조직 지식 관리 AI

_16.4 누구나 만드는 업무 에이전트, 아이멤버 온플로우

 

PART 6 타 플랫폼과의 연동: AI를 기존 업무 시스템에 녹이기

 

CHAPTER 17 그룹웨어·기존 업무 도구 연동

_17.1 사내 메신저 AI 통합

_17.2 그룹웨어 연동: 메일·캘린더·전자결재

_17.3 알림과 워크플로 트리거 자동화

_17.4 일하던 곳에서 쓰는 AI의 UX 전략

 

CHAPTER 18 기간계 시스템 연동

_18.1 ERP·CRM·SCM과 AI의 만남

_18.2 오케스트레이션 레이어 설계

_18.3 레거시 시스템 연동의 현실적 제약과 우회

_18.4 데이터 동기화와 실시간 처리

 

CHAPTER 19 외부 AI 서비스·플랫폼과의 통합

_19.1 오픈AI 앱스 SDK를 활용한 챗GPT 연동

_19.2 마이크로소프트 365 코파일럿, 구글 워크스페이스 AI와의 공존 전략

_19.3 n8n·Make 같은 워크플로 자동화 도구와 LLM 결합

_19.4 MCP 기반 도구 통합

_19.5 사내 플랫폼과 외부 플랫폼의 역할 분담

 

PART 7 AX 조직과 문화 만들기

 

CHAPTER 20 AX 전담 조직 설계

_20.1 AX CoE vs. 분산형 조직

_20.2 AX 조직의 핵심 역할

_20.3 채용과 내부 육성 전략

_20.4 외부 파트너·벤더 관리

 

CHAPTER 21 AX 리터러시 프로그램 운영

_21.1 전사 AI 교육 커리큘럼 설계

_21.2 직급별·직무별 맞춤 교육 프로그램

_21.3 Small AX 워크숍

_21.4 교육 효과 측정과 개선

 

CHAPTER 22 AX 문화 정착

_22.1 AI를 쓰는 게 당연한 조직 문화 만들기

_22.2 실패를 허용하는 실험 문화

_22.3 AI 윤리 가이드라인 수립

_22.4 지속적 전환을 위한 피드백 루프