AI 챗봇 만들기 — 병원·기업이 RAG 챗봇을 구축하는 6단계

AI 챗봇 만들기란, 질문을 받으면 미리 정한 자료에서 근거를 찾아 그 근거만으로 답하는 대화형 서비스를 설계·구축·운영하는 일입니다. 병원과 기업에서 쓰는 챗봇은 대부분 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 구조로 만듭니다. 일반 생성형 AI는 우리 병원의 진료시간이나 회사의 사내 규정을 모르기 때문에, 문서를 먼저 검색하고 그 결과를 근거로 답하게 해야 틀린 안내를 줄일 수 있습니다.

이 글은 루미브리즈가 병원 3곳과 B2B 플랫폼 1곳의 챗봇을 설계·구축·운영하면서 써 온 순서를, 처음 챗봇을 만드는 담당자가 그대로 따라 할 수 있도록 단계별 산출물 중심으로 정리한 것입니다.

먼저 고를 것 — 챗봇을 만드는 세 가지 방식

챗봇을 만드는 방법은 크게 세 가지입니다. 어떤 방식이 맞는지는 「질문이 얼마나 다양한가」와 「누가 어떤 문서를 볼 수 있는가」로 갈립니다.

현실적인 순서는 단기에는 관리형으로 빠르게 검증하고, 장기에는 검색과 권한 처리를 내재화하는 단계적 접근입니다. 어떤 방식이든 아래 6단계는 같습니다. 구조 설명은 RAG 시스템 구성 안내에도 정리해 두었습니다.

AI 챗봇 만들기 6단계와 단계별 산출물

1. 목적과 질문 목록 정하기 — 산출물은 「답할 질문 목록」과 「답하지 않을 질문 목록」입니다. 병원이라면 진료시간·위치·예약 방법·검사 준비는 답하고, 「이 증상이 무슨 병인가요」 같은 진단 질문은 답하지 않고 진료 예약으로 넘깁니다.
2. 자료 수집과 정리 — PDF 매뉴얼, 규정, FAQ, 위키, 병원이라면 진료 안내 페이지·의료진 정보·공식 영상 내용까지 모으고, 문서마다 버전과 유효일, 담당 부서를 붙입니다.
3. 지식베이스 설계 — 문서를 조항·절·문답 같은 의미 단위로 나누고(청킹) 문서 종류·버전·출처·열람 권한을 태그로 붙입니다. 이 단계의 품질이 답변 정확도를 가장 크게 좌우합니다.
4. 검색과 답변 규칙 — 의미 기반(벡터) 검색과 키워드(BM25) 검색을 함께 쓰고, 후보 가운데 근거 3~7개를 재랭킹으로 확정한 뒤 출처와 함께 답합니다. 근거가 부족하면 추가 질문을 하거나 「확인이 필요합니다」라고 답하게 합니다.
5. 평가셋으로 검증 — 1단계 질문 목록에 정답과 근거 문서를 붙여 평가셋을 만들고, 근거를 맞게 찾는지, 답하지 말아야 할 질문을 막는지 확인합니다.
6. 배포와 운영 — 홈페이지 위젯이나 사내 메신저(슬랙·팀즈)에 붙이고, 문서가 바뀌면 자동으로 다시 색인합니다. 이후에는 챗봇 대화 로그를 읽는 네 가지 축처럼 로그를 주기적으로 검토합니다.

준비 자료 체크리스트 — 상담 전에 모아 두면 기간이 줄어듭니다

• ☐ 자주 받는 질문 목록(전화·메신저·이메일 문의 기록에서 추림)
• ☐ 최신 버전의 규정·매뉴얼·안내문 원본(스캔본이면 표시)
• ☐ 문서별 담당자와 개정 주기
• ☐ 열람 권한 구분(부서·직급·역할) — 기업
• ☐ 답하면 안 되는 범위(병원은 진단·처방·효과 단정, 기업은 인사·경영 민감 문서)
• ☐ 사람에게 넘길 연결 지점(전화, 예약 페이지, 담당 부서)
• ☐ 개인정보 처리 방침 — 건강 정보는 민감정보입니다

마지막 항목은 특히 병원에서 중요합니다. 개인정보 보호법 제23조는 건강에 관한 정보를 민감정보로 정하고 별도 동의 등 예외가 없으면 처리하지 못하게 합니다. 그래서 병원 챗봇은 증상이나 병력을 저장하지 않는 구조로 설계하거나, 저장이 필요하면 별도 동의 절차를 먼저 만듭니다.

병원 챗봇과 기업 챗봇은 어디가 다른가

기업 챗봇의 핵심은 「볼 수 있는 문서만 검색」하는 권한 선필터와 감사 로그, 개정된 규정이 우선 반영되는 버전 관리입니다. 병원 챗봇의 핵심은 의료 판단을 하지 않는 가드레일, 모든 답변의 출처 표시, 예약으로 이어지는 연결입니다. 병원 챗봇의 답변 역시 환자에게 의료기관 정보를 알리는 문장이므로 의료법 제56조가 금지하는 효과 단정·비교 표현이 나오지 않게 막아야 합니다.

실제 구축 예를 보면 차이가 분명합니다. 광주의 한 종합병원 챗봇은 사이트 전체와 의료진 45명의 프로필·주간 진료일정, PubMed 의학지식 약 4.3만 건을 벡터화해 상담이 진료과·의사·예약 패널로 이어지게 했고, 스크립트 한 줄로 홈페이지에 붙였습니다. 경기 남양주의 한 통합의학 의원은 공식 유튜브 약 200편과 블로그 전체를 FAQ로 정제해 병원이 실제로 말한 내용만으로 답하게 하고, 진단·처방 금지 가드레일과 출처 표시를 넣었습니다. 자세한 내용은 기업용 챗봇 구축 레퍼런스 사례에 있습니다.

기간과 비용을 가르는 변수

루미브리즈 기준으로 요구사항 파악에 1~2일, 문서 분석과 지식베이스 설계에 3~5일, MVP 구축에 2~4주가 걸립니다. 같은 범위라도 다음 변수에 따라 달라집니다.

• 문서 상태 — 스캔본·표·이미지 문서가 많거나 버전이 섞여 있으면 정리 기간이 늘어남
• 권한 구조 — 부서·직급별 열람 범위가 복잡할수록 설계가 늘어남
• 연동 대상 — 예약 시스템, 사내 메신저, 상담 인계
• 음성(STT/TTS)·다국어 지원 여부
• 동시 사용자 수와 응답 속도 목표

비용은 구축비와 운영비(모델 호출, 검색 인프라, 재색인, 로그 검토)로 나뉘고, 운영비는 자주 나오는 질문의 캐싱으로 줄일 수 있습니다. 구축 이후 실패가 어디서 생기는지는 병원용 RAG 챗봇의 구축 순서와 실패 지점에서 따로 다뤘습니다.

만들고 나서 확인할 지표

• 근거 적중률 — 평가셋 질문에서 맞는 문서를 근거로 찾았는가
• 응답 시간(p95) — 느린 답변 비율
• 「확인이 필요합니다」 응답 비율 — 높으면 자료 보강 신호
• 상담·예약 연결 클릭 수 — 챗봇이 실제 문의로 이어지는가
• 미해결 질문 상위 목록 — 다음 달에 보강할 문서 목록

자주 묻는 질문

AI 챗봇 만들기, 코딩을 몰라도 가능한가요?

답이 고정된 안내형 챗봇은 시나리오형 빌더로 만들 수 있습니다. 다만 문서를 근거로 자유 질문에 답해야 한다면 문서 정리·청킹·검색 규칙 설계가 필요해 RAG 구축 경험이 있는 팀과 함께하는 편이 기간을 줄입니다.

ChatGPT에 문서를 올려 쓰는 것과 무엇이 다른가요?

RAG 챗봇은 열람 권한에 따라 검색 범위를 제한하고, 답변마다 출처 문서와 위치를 표시하며, 문서 버전과 대화 로그를 관리합니다. 사내 문서를 외부 서비스에 그대로 올리지 않는 구조로 설계할 수도 있습니다.

구축 기간은 얼마나 걸리나요?

루미브리즈 기준으로 문서 분석 뒤 MVP까지 2~4주입니다. 문서가 스캔본 위주이거나 권한 구조가 복잡하면 정리 기간이 더 필요합니다.

병원 챗봇이 증상 상담을 해도 되나요?

진단이나 처방으로 읽힐 수 있는 답은 하지 않도록 설계합니다. 일반 정보와 진료과 안내, 예약 연결까지만 답하고 판단은 진료실로 넘기는 것이 원칙입니다.

만든 뒤에는 누가 관리하나요?

문서 담당자가 원본을 갱신하면 변경을 감지해 다시 색인합니다. 여기에 월 단위로 대화 로그를 검토해 미해결 질문을 문서 보강 목록으로 바꾸는 운영이 함께 필요합니다.