현장에서 픽하는 AI 서비스 기획을 위한 필수 지식 - 성공적인 AI 서비스 기획과 개발을 위한 가이드

AI 도입이 당연해진 시대,

우리 서비스에 AI 기술을 어떻게 적용할 것인가

최근 몇 년 사이 기업의 AI 도입률이 빠르게 증가하는 동시에, 앞으로 출시될 서비스 상당수가 AI로 운영된다는 전제하에 설계되고 있습니다. 이제 고민할 문제는 ‘AI를 사용할 것인가’가 아니라 ‘어떤 일에, 어떤 방식의 AI를 적용할 것인가’입니다. 이 책은 AI 도입을 앞둔 기획자, 개발자, 실무 담당자가 갖춰야 할 기반 지식과 서비스 기획 과정에서 검토해야 할 고려사항을 일목요연하게 정리합니다.

 

LLM은 사람처럼 자연스럽게 말할 수 있지만 실제 서비스나 업무 시스템에 연결하는 순간 이야기가 달라집니다. 제각기 다른 요청에 대해서도 의도를 정확히 읽어내야 하고, 답변의 근거를 통제해 신뢰를 확보해야 하며, 사람의 개입을 줄여 업무 효율을 끌어올려야 합니다. 그래서 요즘 AI 서비스는 LLM에 임베딩, RAG, AI 에이전트 같은 기술을 결합해 고도화하고 기존 추천 시스템 역시 LLM을 접목해 사용자 만족도를 높이고 있습니다.

 

LLM으로 만드는 서비스가 성공하려면 정말 AI가 필요한 문제인지 확인하고, 알맞은 기술(임베딩, RAG, AI 에이전트, 추천 시스템)을 선택한 뒤, 서비스 안에서 AI가 맡을 역할을 정해야 하며, 이 모든 단계에 올바른 판단이 뒷받침되어야 합니다. 막연히 AI 도입을 고민하고 있다면 이 책으로 필요한 지식을 익히고 어떤 판단이 필요한지 짚어보세요.

[목 차]

1장. AI 도입, 어떻게 시작할까

1.1 AI 도입이 당연한 시대

1.2 AI를 도입할지 판단하기

1.3 AI 기술의 흐름과 LLM

___AI, 머신러닝, 딥러닝

___LLM

1.4 데이터의 역할 변화

 

2장. LLM의 작동 원리와 한계

2.1 LLM의 개요

2.2 LLM의 작동 원리

2.3 LLM의 맥락 처리 방법과 토큰 비용

___LLM이 맥락을 기억하는 방식

___토큰 비용의 구조

___AI 모델의 진화 과정

2.4 LLM의 한계

___환각

___지식 마감

___기억력 부족

___아부 현상

___역전의 저주

___프롬프트 인젝션

___편향

 

3장. LLM을 서비스에 연결하는 방법

3.1 원하는 답을 얻기 위한 프롬프트 작성 전략

___구역 나누기

___예시 보여주기

___판단 맡기기

___원하는 답변을 받지 못했을 때

3.2 LLM만으로 부족한 부분을 보완하는 기술

___LLM만으로 해결하기 어려운 문제

___임베딩

___RAG

___AI 에이전트

3.3 LLM으로 만드는 서비스

 

4장. 임베딩: 비슷한 의미 찾기

4.1 임베딩의 개요

___임베딩 모델의 학습 방식

___키워드 검색으로 충분한 경우

___임베딩 검색 파이프라인

___벡터 데이터베이스

4.2 임베딩을 입력 데이터로 활용하는 기술

___임베딩×군집화

___임베딩×RAG

___임베딩×추천 시스템

___임베딩×이상 탐지

4.3 임베딩으로 문제를 해결한 사례

___임베딩×검색: 검색 결과 개선

___임베딩×군집화: 드러나지 않는 문제를 찾아 개선

___임베딩×RAG: 챗봇의 답변 개선

___임베딩×추천 시스템: 추천의 다양성 강화

___임베딩×이상 탐지: 평소와 다른 고객 문의 발견

 

5장. RAG: 문서를 찾아 근거 있는 답변하기

5.1 RAG의 개요

___RAG의 작동 과정

___RAG로 해결 가능한 문제와 한계

___RAG가 필요한 상황

5.2 RAG 서비스 설계 시 고려 사항

___검색 대상 문서 선정

___문서 분할 전략

___검색 결과 전달 방식

___메타데이터 설계

___검색 방식 선택

5.3 RAG 서비스 운영 시 고려 사항

___검색 성능 저해 요소 관리

___RAG 운영 비용 최적화

___답변 구성

___출처 표시

___검색 실패 시 답변 방식

___RAG의 품질 평가

___RAG 운영 리스크

___GraphRAG 도입 기준

 

6장. AI 에이전트: 여러 단계를 연결해 실제 작업 수행하기

6.1 AI 에이전트의 개요

___AI 에이전트의 작동 과정

___AI 에이전트의 구성 요소

___AI 에이전트의 구조

___AI 에이전트로 해결 가능한 문제와 한계

6.2 AI 에이전트 설계 시 고려 사항

___도구 분리 기준

___도구 선택과 사용 규칙

___스킬의 역할과 활용

___자동화 범위 설계

___오케스트레이션 설계

6.3 AI 에이전트로 만들 수 있는 서비스

___업무 자동화형 에이전트

___데이터 조회 및 실행 연결형 에이전트

___RAG 결합형 에이전트

___사람 협업형 에이전트

 

7장. AI 추천 시스템: 사용자에게 맞는 선택지 제안하기

7.1 추천 시스템의 개요

___추천 시스템의 기본 구조

___검색과 추천의 차이

___추천의 목적

___추천에 필요한 데이터

___추천 품질 평가

7.2 기존 추천 방식과 임베딩 추천의 차이

___인기 순 추천

___협업 필터링

___콘텐츠 기반 추천

___연관 규칙 추천

___임베딩 추천

7.3 추천 시스템이 해결해야 할 과제

___콜드스타트

___데이터 희소성

___인기 편향

___다양성 부족

___상황 불일치

7.4 LLM이 결합된 추천 시스템

___LLM 추천의 작동 과정

___LLM 추천의 UX

___추천 조건을 좁히는 방법

___추천 근거와 환각 관리

___기존 추천 방식, 임베딩 추천, LLM 추천 비교

 

8장. 서비스에 맞는 AI 기술 선택하기

8.1 머신러닝이 적합한 서비스

___지도 학습: 분류와 회귀를 이용한 서비스

___비지도 학습: 군집화와 이상 탐지를 이용한 서비스

8.2 LLM, 임베딩, RAG, AI 에이전트에 맞는 서비스

___LLM: 문장을 이해하고 생성하는 서비스

___임베딩: 의미가 비슷한 콘텐츠를 찾는 서비스

___RAG: 근거 문서를 바탕으로 답하는 서비스

___AI 에이전트: 조회와 실행을 연결하는 서비스

___AI 서비스 조합

8.3 서비스 운영과 검증

___클라우드·온프레미스 방식

___AI 기술 검증

 

9장. AI 서비스 기획 프로세스와 1페이지 기획안

9.1 AI가 필요한 문제인지 확인하기

___사용자의 어려움 파악하기

___규칙, 검색, 필터로 충분한지 살펴보기

___기대 효과와 리스크 확인하기

9.2 AI 서비스 흐름 설계하기

___AI 기능 사용 지점 정하기

___필요한 데이터 확인하기

___AI 참고용 데이터와 사용자에게 보여줄 데이터 구분하기

___사용자가 확인하고 조정할 지점 만들기

___사람의 최종 판단 영역 남기기

9.3 작게 만들어 검증하기

___초기 버전의 사용 상황 정하기

___테스트 질문과 성공 기준 만들기

___서비스 공개 전 확인 사항과 출시 절차

___1페이지 서비스 기획안

[본 문]

AI 서비스를 만들 때 막연히 ‘AI로 다 되는 것 아닌가’라고 생각하기 쉽습니다. 그러나 성공적인 AI 서비스를 기획하기 위해서는 눈에 보이는 결과물을 넘어 그 이면에서 AI가 어떻게 작동하는지 알아야 합니다. 서비스의 중심이 되는 LLM을 비롯해 그 한계를 보완해 줄 AI 기술을 어떻게 조합할지 이해하는 과정이 필요합니다. 그런데 시중에는 이러한 관점을 중심으로 다루는 책이 많지 않습니다. 이에 필자는 다양한 AI 기술을 살펴보고, 어떨 때 그 기술을 선택하는지, AI 서비스 안에서 기술들이 어떻게 어우러져 동작하는지 이해할 수 있도록 이 책을 집필했습니다.

 

앞으로 AI는 끊임없이 발전할 것입니다. 그러나 새로운 모델과 기술이 계속 등장하더라도 문제를 확인하고 적절한 기술을 선택하는 일의 본질은 크게 달라지지 않습니다. 이 책이 AI를 이해하고 더 나은 AI 서비스를 설계하는 데 도움이 됐으면 좋겠습니다.