에이전틱 AI는 지시를 하나씩 받아 응답하는 데 그치지 않고 스스로 목표를 추구하는 소프트웨어를 말합니다. 고객 서비스에서는 AI 에이전트가 고객의 요청을 파악하고, 해결에 필요한 단계를 정하고, 답을 가지고 있거나 조치를 실행할 수 있는 시스템을 호출하고, 실제로 해결되었는지 확인하는 것을 의미합니다. 이 모든 과정에서 사람이 단계마다 개입할 필요가 없습니다. 벤더를 비교할 때 던져야 할 진짜 질문은 "AI를 쓰는가"가 아니라, 이 소프트웨어가 업무를 이리저리 넘기기만 하는지 아니면 실제로 끝내는지입니다.
현재 거의 모든 서비스 조직이 에이전틱 AI를 도입하고 있지만, 이 범주가 정확히 무엇을 의미하는지 설명할 수 있는 곳은 훨씬 적습니다.
Gartner는 비용 증가, 불분명한 성과, 미흡한 리스크 관리로 인해 2027년 말까지 에이전틱 AI 프로젝트의 40% 이상이 중단될 것으로 전망합니다(Gartner 보도자료, 2025년 6월 25일). 같은 조사에 따르면 스스로를 "에이전틱"이라고 부르는 수천 개 벤더 중 실제로 정의에 부합하는 곳은 약 130곳에 불과합니다. Gartner는 이를 '에이전트 워싱(agent washing)'이라고 부릅니다. 구매자 측면에서는, McKinsey 조사 결과 약 80%의 기업이 생성형 AI를 도입했지만 거의 같은 비율의 기업이 수익에서 실질적인 효과를 보지 못하고 있습니다(McKinsey, Seizing the agentic AI advantage, 202 5년 6월 13일).
그렇다고 에이전틱 AI가 효과가 없는 것은 아닙니다. 한 전망에 따르면 2029년까지 일반적인 서비스 문의의 80%를 에이전틱 AI가 자율적으로 해결하게 될 것입니다(Gartner, 2025년 3월 5일). 필요한 것은 실제로 그 수준에 도달할 시스템과, 18개월 동안 티켓을 예전보다 조금 더 매끄럽게 라우팅하는 데 그칠 시스템을 구별하는 방법입니다.
에이전틱 시스템의 구성 요소
구성 요소는 6가지입니다. 대부분의 벤더는 그중 2가지에 강하고 나머지는 모호하게 설명합니다.
- 인식(Perception). 텍스트, 음성, 이미지 전반에서 요청을 읽고 실제로 무엇을 원하는지 파악합니다.
- 추론 및 계획. 목표를 여러 단계로 나누고 순서를 정합니다. 에이전트와 스크립트를 가르는 핵심입니다.
- 메모리. 작업 중 현재 위치를 파악하는 단기 메모리와, 대화 상대가 누구이며 지난번에 무슨 일이 있었는지 기억하는 장기 메모리입니다.
- 도구 및 실행 계층. 주문 조회, 크레딧 지급, 구독 변경 등 실제로 사내 시스템과 연결되는 부분입니다. 이것이 없으면 시스템은 환불 방법을 설명할 수는 있어도 직접 환불해 줄 수는 없습니다.
- 오케스트레이션. 여러 에이전트나 단계를 조율하고 그 사이에 컨텍스트를 전달합니다. 이 영역에서는 표준이 자리 잡기 시작했습니다(도구 접근을 위한 Model Context Protocol, 조율을 위한 에이전트 간 프로토콜 등).
- 가드레일 및 에스컬레이션. 하지 말아야 할 일을 알고, 언제 멈추고 전체 컨텍스트와 함께 사람에게 넘겨야 하는지 아는 것입니다.
이 구성 요소들은 일직선이 아니라 루프로 작동합니다. 인식하고, 계획하고, 실행하고, 확인하고, 조정합니다. 스크립트 기반 플로우는 한 번 실행되고 성공하거나 실패할 뿐입니다.
에이전틱 AI로 오해받는 것들
벤더 영업 자료에서는 다른 4가지 범주도 "에이전틱"으로 불립니다. 모두 실제로 유용한 일을 하지만, 어느 것도 문제를 해결하지는 않습니다.
고객 서비스 시나리오별로 유용한 다양한 유형의 AI.
용어 참고: 업계에서는 보통 첫 번째 행을 "챗봇"이라고 부릅니다. 이 글에서는 이를 규칙 기반 봇이라고 부릅니다. 진짜 차이는 브랜딩이 아니라 아키텍처에 있기 때문입니다.
오케스트레이션은 해결이 아닙니다
대부분의 혼란이 바로 여기서 생기므로, 분명하게 짚고 넘어가겠습니다.
실제 운영 환경에서 가장 많이 볼 수 있는 에이전틱 활용 사례인 라우팅, 분류(triage), 에스컬레이션 처리, 워크플로 오케스트레이션, 개인화는 모두 실질적인 업무입니다. 하지만 어느 것도 문제를 해결하지는 않습니다. 티켓을 읽고 정확히 분류하고 적절한 계정 컨텍스트를 불러와 올바른 대기열로 보내는 시스템은 분명 유용한 일을 했지만, 고객의 문제를 해결한 것은 아닙니다. 오케스트레이션은 기존 프로세스의 속도를 높입니다. 해결은 실제로 업무 부담을 덜어 줍니다.
측정 용어가 모호해지는 것도 이 지점입니다. 서로 바꿔 쓰면 안 되는 3가지 용어가 혼용되고 있습니다.
- 디플렉션율(Deflection rate). 사람 없이 처리된 문의의 비율입니다. 부풀리기 쉬운 지표입니다. 그냥 포기했거나 루프에 갇힌 고객도 로그상으로는 성공과 똑같이 보이기 때문입니다.
- 컨테인먼트율(Containment rate). 자동화 채널 안에서 마무리된 대화의 비율입니다. 문제가 실제로 해결되었는지는 알려 주지 않습니다.
- 해결률(Resolution rate). 문제가 실제로 해결되었는지를 나타내며, 24–48시간 내 재문의가 없거나 고객에게 직접 확인해 검증합니다.
실제 고객 성과를 반영하는 것은 세 번째 지표뿐입니다. 벤더가 이 3가지 중 무엇인지 밝히지 않고 수치를 제시한다면, 가장 먼저 그것부터 물어봐야 합니다.
제대로 작동하는 해결의 모습
대표 수치보다 구체적인 상황이 더 중요합니다. 모든 서비스 리더가 "우리 환경은 그 사례보다 복잡하다"고 반론하기 때문입니다. 그래서 각 팀이 실제로 어떤 제약 속에서 일했는지 정리했습니다.
K1x는 소규모 지원팀으로 세무 및 법률 문서 워크플로를 운영하며, 장기 IT 프로젝트는 전혀 원하지 않았습니다. 시스템이 기존 환경을 대체하지 않고 그 위에 얹히는 방식이었기에 빠른 도입이 가능했고, 가동 첫 주에 80%의 자율 해결률을 달성했습니다.
Clio는 전 세계 고객에게 법률 사무 소프트웨어를 판매하며, 누구의 말도 그대로 믿지 않았습니다. 32개 벤더를 평가하고 10곳 이상을 직접 비교 테스트한 뒤 하나를 선택했습니다. 그 결과 80%의 자율 해결률을 달성하고 실시간 지원 속도는 4배 빨라졌습니다.
핀테크 기업 Rho는 인력 충원 없이 문의량이 늘어나는 상황이었습니다. 목표는 경험의 질을 떨어뜨리지 않으면서 늘어나는 문의를 감당하는 것이었고, 동일한 팀 규모로 월간 문의를 12% 더 처리하면서도 95%의 CSAT를 유지했습니다.
한 Fortune 500 게임 기업은 규제 산업에 속해 있으며, 이벤트 기간에는 문의량이 급증합니다. 평상시에는 월 330,000건 이상의 상호작용을 80%의 해결률로 처리하며, 한 피크 이벤트 당일에는 시스템이 13,000건의 상호작용을 해결했습니다.
실제로 구매하는 자율성 수준은 어디까지인가
자율성 수준 프레임워크가 점차 구체화되고 있습니다. Cloud Security Alliance는 2026년 1월 6단계 모델을 발표했으며, 다른 버전들도 명칭은 달라도 대체로 비슷한 구조를 따릅니다.
실제로 대부분의 엔터프라이즈 도입 사례는 조건부 자율성 단계에 있습니다. 시스템이 정해진 범위 안에서는 전체 작업을 처리하고, 범위를 벗어나는 일은 에스컬레이션합니다. 벤더가 그 이상을 주장한다면, 제품이 아니라 로드맵을 설명하고 있는 것입니다.
환불 사례로 보면 더 명확합니다. 조건부 자율성 단계에서 시스템은 요청을 읽고, 정책과 대조하고, 주문 정보를 기준으로 자격 여부를 확인한 뒤, 기준 금액 이내라면 크레딧을 지급하고 그렇지 않으면 전체 컨텍스트와 함께 사람에게 넘깁니다. 이 기준은 고객사가 직접 설정하며, 시스템이 실제로 얼마나 많은 일을 하는지 결정하는 것은 기반 모델이 아니라 바로 이 설정입니다.
두 범주를 구분하는 5가지 질문
- 시스템이 말만 하는 것이 아니라 실제로 무엇을 하나요? 사내 시스템에서 실행할 수 있는 구체적인 작업 목록을 요청하세요. 답변이 질문 응대에만 집중되어 있다면, 그것은 해결이 아니라 오케스트레이션입니다.
- 해결을 어떻게 정의하고 검증하나요? 디플렉션인가요, 컨테인먼트인가요, 확인된 해결인가요? 그리고 기준 기간은 얼마인가요?
- 신뢰도가 낮을 때는 어떻게 되나요? 제대로 된 에스컬레이션 경로가 없는 시스템은 추측하고 있을 뿐입니다.
- 구축 과정에서 실제로 우리 팀에 무엇이 필요한가요? 벤더 솔루션 아키텍트의 몇 주와 우리 엔지니어의 몇 주는 전혀 다른 부담입니다.
- 같은 업종, 비슷한 규모의 고객사 중 실제로 이야기를 나눠 줄 곳은 어디인가요? 비슷한 환경의 레퍼런스 통화 한 번이 어떤 벤치마크 수치보다 더 많은 것을 알려 줍니다.
자주 묻는 질문
고객 서비스에서 에이전틱 AI란 무엇인가요?
서비스 목표를 스스로 추구하는 소프트웨어입니다. 요청을 읽고, 단계를 계획하고, 데이터를 보유한 시스템에서 조치를 실행하고, 결과를 확인합니다. 이 과정에서 사람이 하나하나 지시할 필요가 없습니다. 핵심 특징은 작업을 라우팅하는 데 그치지 않고 끝까지 완료한다는 점입니다.
에이전틱 AI는 챗봇과 어떻게 다른가요?
규칙 기반 봇은 입력을 스크립트 답변과 매칭하고, 익숙하지 않은 요청은 사람에게 넘깁니다. 에이전틱 시스템은 처음 보는 요청도 추론해 해결에 필요한 단계를 파악하고, 실제 시스템에서 이를 실행합니다. 하나는 문의를 돌려보내고, 다른 하나는 해결합니다.
에이전틱 AI는 생성형 AI와 같은 것인가요?
아닙니다. 생성형 AI는 프롬프트에 대한 응답으로 텍스트를 생성할 뿐입니다. 에이전틱 AI는 생성형 모델을 계획, 기억, 실행까지 수행하는 더 큰 시스템의 한 부분으로 활용합니다. 생성형 AI를 구매하고 에이전틱 수준의 결과를 기대하는 것은 흔한 실수입니다.
AI 에이전트가 환불을 처리하거나 주문을 변경할 수 있나요?
네. 해당 작업을 수행하는 시스템과 연결되어 있고, 정해진 한도 내에서 권한이 부여되어 있다면 가능합니다. 대부분의 기업은 기준을 설정하고 그 이상은 사람에게 넘깁니다.
고객 서비스 AI의 적정 해결률은 어느 정도인가요?
채널, 복잡도, 측정 방식에 따라 다릅니다. 실제 운영 환경의 수치는 약 50%에서 93%까지 다양합니다. 다른 벤더의 수치와 비교하기 전에, 해당 수치를 정확히 어떻게 정의하고 검증하는지 반드시 확인하세요.
에이전틱 AI가 상담원을 대체하게 될까요?
현재 시스템은 조건부 자율성 단계에서 운영되며, 정해진 업무를 처리하고 나머지는 에스컬레이션합니다. 지금까지의 흐름은 처리 역량의 확대입니다. 같은 팀이 더 많은 문의를 처리하고, 실제로 판단이 필요한 업무에 더 많은 시간을 쓰게 됩니다.
에이전틱 AI는 PCI DSS와 HIPAA를 준수하나요?
컴플라이언스는 범주가 아니라 플랫폼에 달려 있습니다. 구체적인 인증 내역, 음성 채널까지 포함되는지, 개인정보가 실시간으로 어떻게 처리되는지 확인하세요.
에이전틱 AI 프로젝트는 왜 실패하나요?
Gartner는 비용 증가, 불분명한 성과, 미흡한 리스크 관리를 원인으로 꼽습니다. 그 이면의 진짜 문제는 대개 오케스트레이션만 하는 제품을 구매하고 해결까지 기대하는 데 있습니다.
귀사의 실제 대화로 확인하세요.
맞춤형 무료 데모를 신청하세요.
