Vodafone과 LangGraph: 통신사 AI 상담의 미래를 보여주다

전 세계 통신사들이 AI 도입을 외치고 있지만, 실제 현장에서 ‘쓸만한’ 성과를 내는 경우는 드뭅니다. 그런데 이탈리아에서 들려온 소식은 다릅니다. Swisscom Group의 자회사인 Fastweb과 Vodafone이 LangGraph와 LangSmith를 활용해 고객 서비스의 차원을 한 단계 높였습니다.

단순히 챗봇을 도입한 것이 아닙니다. 그들은 ‘행동하는 에이전트(Action-taking Agent)’를 구축했습니다.

챗봇을 넘어 ‘Super Agent’의 시대로

우리가 흔히 접하는 통신사 챗봇은 답답합니다. “요금제 변경해줘”라고 하면 “해당 메뉴로 이동하시겠습니까?”라고 되묻기 일쑤죠.

Vodafone과 Fastweb은 이 문제를 해결하기 위해 두 가지 핵심 에이전트를 도입했습니다.

  1. Super TOBi: 고객을 직접 응대하는 대화형 AI
  2. Super Agent: 내부 상담원을 돕는 AI 코파일럿

이들은 단순한 질의응답을 넘어, 복잡한 통신사 업무 로직을 스스로 판단하고 처리합니다.

LangGraph: 결정론적 라우팅의 힘

이 성공의 핵심에는 LangGraph가 있습니다. 기존의 LLM(거대언어모델) 애플리케이션은 확률에 의존하기 때문에, 때로는 엉뚱한 대답(Hallucination)을 내놓습니다. 고객의 요금 정보를 다루는 통신사 입장에서는 치명적일 수 있죠.

Vodafone은 LangGraph를 통해 상담 프로세스를 그래프(Graph) 형태로 구조화했습니다.

  • 고객의 의도가 ‘청구서 문의’인지, ‘기술 지원’인지 명확히 분류하고(Supervisor Pattern),
  • 각 상황에 맞는 서브 그래프(Sub-graph)로 라우팅하여 결정론적(Deterministic)으로 답변을 생성합니다.

이는 AI의 창의성은 살리되, 업무 프로세스는 엄격하게 통제하는 하이브리드 접근법입니다.

놀라운 성과와 LangSmith의 역할

결과는 숫자로 증명되었습니다. Super TOBi와 Super Agent 도입 후, 무려 90%의 정확도(Correctness Rate)와 82%의 해결률(Resolution Rate)을 기록했습니다.

지표 수치 의미
정확도 (Correctness) 90% AI 답변의 신뢰성 확보
해결률 (Resolution) 82% 상담원 연결 없이 AI가 종결

이 높은 성능을 유지하는 데는 LangSmith가 결정적이었습니다. AI가 대화하는 모든 로그를 추적(Tracing)하고 평가하여, 어디서 답변이 꼬였는지 실시간으로 모니터링할 수 있었기 때문입니다.

한국 통신사(SKT, KT)는 무엇을 배워야 하나

한국의 SKT(에이닷), KT, LGU+ 역시 AI 전환(AX)에 사활을 걸고 있습니다. Vodafone의 사례는 우리에게 중요한 시사점을 줍니다.

  1. 모델보다 구조가 중요하다: 어떤 LLM을 쓰느냐보다, 어떻게 오케스트레이션(LangGraph) 하느냐가 서비스 품질을 좌우합니다.
  2. 내부 직원을 위한 AI: Super Agent처럼 상담원을 돕는 AI가 선행되어야, 상담원의 스트레스를 줄이고 전체 서비스 품질을 높일 수 있습니다.

결론: 기술 스택이 경쟁력이다

AI 데모를 만드는 건 쉽습니다. 하지만 Vodafone처럼 엔터프라이즈 규모에서 90% 정확도를 내는 서비스를 만드는 건 차원이 다른 문제입니다.

LangGraph와 LangSmith라는 최신 기술 스택을 과감히 도입하여, ‘확률적 앵무새’를 ‘똑똑한 일꾼’으로 바꿀 수 있음을 그들은 증명했습니다. 이제 국내 기업들도 ‘도입’을 넘어 ‘아키텍처’를 고민해야 할 때입니다.

면책 조항: 이 글은 정보 제공 목적이며, 특정 기업의 주식 매수/매도 추천이 아닙니다. 기술적 분석에 기반한 인사이트를 제공합니다.