챗봇이 “모르겠습니다”라고 말해야 하는 이유

언제나 답이 있는 챗봇은 인상적으로 보입니다. 제공하지도 않는 할인을 약속하기 전까지는요. “모르겠습니다”가 챗봇이 할 수 있는 가장 가치 있는 말인 이유를 알려 드립니다.

방문자가 가격 맞춤에 대해 묻자 에이전트가 관련 정보가 없다며 이메일을 요청하고, 노란 깃발에 “Unanswered questions에 추가됨”이라고 표시된 채팅 화면.

범용 AI 모델은 도움이 되도록 학습되어 있어서, 그대로 두면 아무 답도 하지 않기보다는 자신 있게 답하는 쪽을 택합니다. 자전거 매장에 학생 할인이 있냐고 물으면, 학생증을 보여 주면 15% 할인된다고 신나게 답할지도 모릅니다. 자전거 매장이 할 법한 말처럼 들리죠. 다만 우리 매장에는 사실이 아닐 뿐입니다.

개인 비서라면 잘못된 추측은 사소한 불편에 그칩니다. 하지만 회사를 대표해 말하는 웹사이트에서는 그것이 약속이 됩니다. 고객은 15% 할인을 기대하고 찾아오고, 직원은 아무 잘못도 없는 고객에게 안 된다고 말해야 합니다.

나란히 놓인 두 채팅. 왼쪽은 추측하는 봇으로, 매장에 없는 15% 학생 할인을 지어냅니다. 오른쪽은 근거 기반 봇으로, 가격표에서 학생 할인을 찾을 수 없다고 말하고 팀에 확인해 주겠다고 제안하며 질문을 미답변으로 기록합니다.
같은 질문이라도, 비즈니스에는 전혀 다른 결과가 돌아옵니다.

“근거 기반”이란

근거 기반 챗봇은 정해진 자료, 즉 내 문서와 웹페이지로만 답합니다. 방문자가 질문하면 먼저 내 자료에서 일치하는 구절을 찾고, 그 구절만으로 답을 씁니다. 관련 내용이 없으면 일반 지식으로 빈틈을 채우지 않고, 없다고 말합니다.

askAgent는 이렇게 작동합니다. 에이전트는 추가한 파일과 페이지로 답하고, 답이 없으면 방문자에게 그렇게 알린 뒤 질문을 팀에 전달하겠다고 안내합니다.

“모르겠습니다”가 비즈니스에 좋은 세 가지 이유

  1. 신뢰는 쌓입니다. 방문자는 챗봇을 믿어도 되는지 금방 알아챕니다. 정책 하나만 지어내도 그 뒤로는 챗봇이 하는 말을 모두 다시 확인하거나, 아예 쓰지 않게 됩니다.
  2. 빈틈이 리드가 됩니다. “잘 모르겠지만, 이메일을 남겨 주시면 팀에서 연락드릴게요”라는 말은 막다른 길을 연락처로 바꿉니다. 채팅에서 받은 이름, 이메일, 전화번호는 리드 목록에 모입니다.
  3. 무엇이 빠졌는지 알게 됩니다. 에이전트가 답하지 못한 질문은 모두 Unanswered questions(미답변 질문) 리포트에 쌓입니다. 고객이 직접 써 준 할 일 목록인 셈입니다.

문서에 주는 의미

근거 기반 에이전트는 주어진 자료만큼만 좋습니다. 몇 가지 습관이 큰 차이를 만듭니다.

  • 매일 하는 말을 글로 적으세요. 영업시간, 배송 지역, 예약 방식, 늦게 오면 어떻게 되는지 같은 정보는 팀원들의 머릿속에만 있는 경우가 많습니다.
  • 하지 않는 것도 적으세요. “가격 맞춤은 하지 않습니다”나 “학생 할인 없음”도 엄연한 답이며, 질문이 미답변으로 남지 않게 해 줍니다.
  • 오래된 파일은 교체하세요. 가격이 바뀌면 기존 목록 대신 새 목록을 올려, 에이전트가 작년 가격을 안내하는 일이 없게 하세요.

자기가 아는 것의 한계를 아는 도우미는 무엇이든 답하는 도우미보다 덜 화려합니다. 하지만 우리 비즈니스를 대신해 말하게 하고 싶은 도우미는 그런 도우미뿐입니다.

답변은 이미 준비되어 있습니다. 이제 일하게 하세요.

가지고 있는 자료를 업로드하고 코드 한 줄만 붙여 넣으면, 오늘부터 AI 챗봇이 방문자에게 답변합니다.