공공기관 AI 챗봇 개발 사례 – 서울시자살예방센터

1. 프로젝트 개요

• 클라이언트: 서울시자살예방센터 (서울시)
• 프로젝트명: 디지털 마음 돌봄 안내자 ‘마음이’ AI 챗봇 시스템 구축
• 핵심 과제: 기존 시나리오형(버튼식) 챗봇의 한계를 넘어, 자연어 대화를 통해 위기 상황에 즉각적으로 개입하고 상담으로 연계하는 안전한 AI 구축
• 개발 방식: OpenAI(GPT 모델) 연동 및 범용 챗봇 빌더 활용 (No-code/Low-code 접근)
• 챗봇 체험: https://seoulspc.or.kr

2. 도입 배경

기존 공공기관 챗봇은 정해진 메뉴를 선택하는 방식(Rule-based)이 주를 이뤄, 사용자에게 기계적인 인상을 주기 쉬웠습니다. 서울시자살예방센터는 “힘들다”는 말에 “메뉴를 선택하세요”라고 답하는 대신, “많이 힘드셨군요”라고 공감하며 대화를 이어가는 사람 같은 AI가 필요했습니다. 이를 위해 막대한 비용이 드는 자체 엔진 개발 대신, 이미 성능이 검증된 상용 LLM과 빌더를 활용해 효율성을 극대화했습니다.

3. 핵심 솔루션: 시스템 프롬프트 엔지니어링

‘마음이’는 OpenAI의 뛰어난 언어 능력에 안전한 답변을 위한 시스템 프롬프트를 더해 가장 합리적인 비용으로 최고의 성능을 구현했습니다.

Point 1. 절대적 윤리 강령 탑재

심리 상담 영역의 특수성을 고려하여 AI가 비전문적인 진단이나 섣부른 조언을 하지 않도록 강력한 안전장치를 마련했습니다. AI는 가치 판단을 배제하고 사용자의 이야기를 있는 그대로 수용하며, 자신의 한계를 명확히 인지한 상태에서 대화를 진행하도록 설계되었습니다.

Point 2. 맥락 기반의 유연한 대화 엔진

기계적인 응답 규칙을 넘어, 사용자의 감정선과 대화의 맥락을 스스로 파악하는 유연한 흐름을 구현했습니다.

• 자연스러운 라포 형성: 사용자가 충분히 위로받았다고 느낄 때까지 AI가 인내심을 갖고 경청합니다.
• 적시 개입: 대화 중 위기 신호나 도움의 필요성이 감지되면, 가장 자연스러운 타이밍에 전문 기관으로의 연결을 제안하도록 설계하여 거부감을 최소화했습니다.

Point 3. 검증된 지식 베이스 기반

불확실한 웹 정보 대신, 서울시와 센터가 검증한 공신력 있는 기관 정보(109 자살예방상담전화, 국가트라우마센터 등)만을 학습시켜 상황별(청소년, 재난, 중독 등)로 가장 적합한 도움처를 정확하게 안내합니다.

4. 기존 챗봇과의 차별점

5. 기대 효과

• 심리적 문턱 완화: 24시간 언제든 접근 가능한 AI가 초기 감정을 받아주어 심리적 긴장을 완화합니다.
• 효율적 연계: 상담 전화나 방문을 꺼리는 사용자들에게 디지털 채널을 통해 접근하여, 실제 전문가 상담으로 이어지는 가교 역할을 수행합니다.