조선익의 개발자 생활
← 목록으로

가맹점 주문 관리 시스템·설계·2026-11-07

LLM으로 상담 통화 분류하기: 통화 종료부터 구글 시트 등록까지

상담 통화의 녹음과 전사를 모아 LLM API로 예약과 상담을 분류하고, 상담사가 확정한 신규 고객을 구글 시트에 등록하는 파이프라인을 만든 과정입니다.

기술
Spring Boot, C#, LLM API
결과
LLM 통화 분류 2026.07 운영 적용, 가맹점 약 20곳·월 약 90건 신규 고객 등록 (2026.09 보고값)
  • AI 연동
  • 이벤트 처리
  • 운영 문제
스킬Spring BootC#LLM API

가맹점의 상담 통화가 끝나면 녹음과 전사를 모아 LLM API로 예약인지 상담인지 분류하고, 상담사가 확인한 신규 고객을 구글 시트 목록에 올리는 파이프라인을 만들었습니다. 2026년 7월부터 운영에 적용했고, 2026년 9월 기준으로 가맹점 약 20곳에서 월 약 90건이 등록됩니다. 백엔드는 Spring Boot, 상담사 PC의 통화 연동 프로그램은 C#입니다.

제가 만든 부분은 통화 자동 분류, 신규 고객을 가려 목록에 등록하는 로직, 그리고 여러 LLM 공급자를 같은 방식으로 부르는 호출 구조입니다. 상담 내용을 정리해 상담 결과를 만드는 API는 다른 담당자가 만들었고, 저는 그 결과를 검토 창에 연결했습니다.

문제: 통화에서 신규 고객을 가려내는 일이 수작업이었다

가맹점의 상담 통화로 고객을 관리하는 시스템이었습니다. 매달 새로 가입하는 고객에게는 프로모션과 홍보 연락이 필요해서, 상담 통화에서 신규 고객을 따로 모아 관리해야 했습니다. 발주사는 통화 내용에서 고객 정보를 뽑아내는 AI 분석을 요구했습니다. 목록은 가맹점 담당자가 받아 신규 고객에게 개별로 연락하는 데 씁니다.

구조와 처리 흐름

상담사 PC의 C# 프로그램이 통화 이벤트를 보관하고, 브라우저가 백엔드로 전달합니다. C# 프로그램은 녹음과 전사를 백엔드에 올립니다. 백엔드는 세 입력이 모두 도착하면 통화 방향을 판별하고 LLM 호출 계층으로 분류를 요청합니다. 예약이나 상담으로 분류된 건은 검토 대기로 저장되고, 상담사가 확인해 확정하면 목록에 없는 번호만 구글 시트에 한 행으로 추가됩니다.

  • 수집: 상담사 PC마다 설치하는 C# 프로그램이 통신사 통화 연동 모듈(DLL·COM)로 통화 이벤트를 받습니다. 통화가 끝나면 녹음과 전사를 모아 백엔드에 올립니다. 전사가 아직 준비되지 않았으면 간격을 두고 다시 조회합니다.
  • 분류: 백엔드의 분류 실행기가 전사를 LLM에 보내 예약인지 상담인지, 둘 다인지 받습니다. 분류 요청에는 그 고객의 최근 상담 요약을 함께 넣습니다.
  • 검토: 분류 결과는 바로 등록하지 않고 검토 대기로 둡니다. 상담사가 창에서 내용을 확인하고 고친 뒤 확정하거나 거절합니다. 예약과 상담 중 한쪽만 거절할 수도 있습니다.
  • 등록: 상담사가 확정하면 예약과 상담이 저장됩니다. 이때 구글 시트 목록에 없는 전화번호면 한 행을 추가합니다.
  • 복구: 분류가 중간에 멈춘 건은 복구 스케줄러가 다시 처리합니다.
  • 검증: 녹음에서 검토 대기 건이 만들어지는 데까지를 통합 테스트로 확인했습니다.

설계 선택

세 입력이 모두 와야 LLM을 부른다

통화 이벤트, 전사, 녹음이 모두 도착한 뒤에 분류를 시작합니다. 목적은 전사가 없는 상태로 분류 단계가 돌지 않게 하는 것입니다. 대가는 전사나 녹음이 늦으면 분류도 그만큼 늦는다는 점입니다.

분류 결과는 사람이 확정한다

분류 결과를 곧바로 예약과 상담으로 등록하지 않고, 상담사가 확정한 뒤에 등록합니다. 구글 시트에 행을 추가하는 시점도 처음에는 확정보다 앞이었는데, 확정 단계로 옮겼습니다. 대가는 상담사가 확인하기 전까지 목록에 오르지 않는다는 점입니다.

LLM 호출을 공통 인터페이스 뒤로 모은다

처음에는 다른 담당자가 만든 LLM 호출 코드를 그대로 가져다 쓰려고 했습니다. 쓰는 모델이 늘면서 호출하는 곳마다 공급자별 코드가 생기게 되어, 공통 인터페이스 아래에 공급자별 구현을 두고 라우터가 요청에 적힌 공급자로 넘기는 구조를 만들었습니다. 요청, 응답, 오류, 재시도 정책도 공통 타입으로 뺐습니다. 처음에는 OpenAI와 Gemini 두 가지였고, 2026년 6월에 Claude를 추가했습니다. 라우터에는 단위 테스트를 붙였습니다. 공급자를 자동으로 바꿔 주는 장치는 아니고, 호출하는 쪽이 공급자를 고릅니다. 대가는 공급자마다 다른 기능을 공통 타입에 맞춰야 한다는 점입니다.

운영에서 만난 문제: 두 대 이상의 PC가 같은 통화를 올렸다

컴퓨터가 두 대 이상인 매장에서는 두 컴퓨터가 같은 이벤트를 받아 동시에 올리면서 서로 맞물려, 등록이 하루 한 건꼴로 늦었습니다. 연동 프로그램에 '업로드 전용 PC' 옵션을 넣어 한 대만 올리게 했습니다. 지금은 정상 동작합니다. 대가는 그 PC가 꺼져 있으면 업로드가 멈출 수 있다는 점입니다.

같은 환경에서 통화 이력이 가맹점과 고객 정보 없이 먼저 저장되는 경우도 있었습니다. 이 경우는 뒤따라온 요청이 빈 값을 채우도록 고쳤습니다.

결과와 한계

2026년 7월부터 운영에 적용했고, 2026년 9월 기준으로 가맹점 약 20곳에서 월 약 90건이 목록에 등록됐습니다. 이 수치는 운영에서 적은 보고값이고, 집계 방법은 함께 기록하지 않았습니다.

한계는 다음과 같습니다.

  • 분류 정확도는 따로 검사하지 않았습니다. 잘못된 분류는 상담사가 확정하는 단계에서 걸러집니다.
  • 같은 통화가 두 번 올라오는 문제는 서버에서 한 번만 처리되게 막지 않고 옵션으로 막았습니다. 옵션을 넣기 전후의 지연 건수는 세지 않았습니다.

설계대로 동작한 문의도 있었습니다. 통화 기록이 올라오지 않는다는 문의였는데, 목록에 이미 있는 번호로 걸려 온 재통화이거나 통화 매니저 서비스를 신청하지 않은 번호로 응대한 경우였습니다. 목록은 신규 고객 파악용이라 중복 번호를 넣지 않습니다. 사유가 DB에만 남고 화면에는 보이지 않아 문의가 반복됐습니다. 화면에 사유를 표시하는 개선은 별도 협의가 필요해서 나중으로 미뤘고, 지금은 건별로 안내합니다.

배운 점

  • 정확도를 보장하기 어려운 LLM 결과는 사람이 확정하는 단계를 두면 운영에 올릴 수 있습니다.
  • 같은 이벤트가 여러 곳에서 올 수 있는 구조는 처음부터 한 번만 처리되게 설계해야 합니다.
전체 글경력소개
  • 최적화4
  • 설계5
  • 연구0

태그

  • 성능 최적화4
  • 운영 문제4
  • 데이터베이스3
  • 멀티테넌트2
  • 스키마2
  • 이벤트 처리2
  • 가상화1
  • 결제 연동1
  • 공공 API1
  • 데이터 정제1
  • 로깅1
  • 마이그레이션1
  • 멀티스레드1
  • 배치 처리1
  • 엑셀1
  • 이벤트 순서1
  • 전자서명1
  • 타임아웃1
  • AI 연동1

스킬

  • React4
  • Spring Boot3
  • C#2
  • Apache POI1
  • DataTables1
  • Django1
  • Docker1
  • JPA1
  • LLM API1
  • MyBatis1
  • MySQL1
  • PostgreSQL1
  • Spring1
  • TypeScript1
문의

댓글 0

    조회 3