에이전틱 AI 용어집: 엔터프라이즈 구매자를 위한 필수 AI 에이전트 용어 100선

이 용어집은 구매 담당자, 운영 담당자, 의사결정권자가 에이전틱 AI 플랫폼과 파트너를 자신 있게 평가하는 데 필요한 핵심 용어를 정리한 것입니다. 엔터프라이즈 준비도, 고객 경험(CX) 자동화, 프로덕션급 배포에 중점을 두었습니다.

에이전틱 AI 기초와 핵심 개념

1. 에이전틱 AI(Agentic AI) – 프롬프트에 단순히 응답하는 데 그치지 않고 목표를 향해 자율적으로 계획하고 판단하고 행동하도록 설계된 AI 시스템입니다. 엔터프라이즈 환경에서 에이전틱 AI는 LLM, 도구(Actions), 기업 Knowledge를 결합해 엔드투엔드 워크플로를 실행하며, Maven 플랫폼이 이를 구현하고 있습니다.
2. AI 에이전트(AI Agent) – 입력을 인식하고 맥락을 바탕으로 추론하며 특정 목표를 달성하기 위해 행동하는 소프트웨어 기반 개체입니다. 기존 봇과 달리 AI 에이전트는 상황에 따라 동작을 유연하게 조정할 수 있습니다.
3. 자율성(Autonomy) – AI 에이전트가 사람의 개입 없이 독립적으로 작동할 수 있는 정도입니다. 자율성이 높을수록 효율은 높아지지만 더 강력한 거버넌스와 가드레일이 필요합니다.
4. 목표 지향적 행동(Goal-Oriented Behavior) – 개별 작업이 아니라 정의된 결과를 향해 작업하는 에이전트의 능력입니다. 이를 통해 에이전트는 여러 시스템에 걸쳐 작업 순서를 지능적으로 구성할 수 있습니다.
5. 멀티 에이전트 시스템(Multi-Agent System, MAS) – 여러 AI 에이전트가 협업하거나 서로 조율하며 복잡한 문제를 해결하는 아키텍처입니다. MAS 설계는 확장성과 전문성을 높입니다.
6. 액션 스페이스(Action Space) – 에이전트가 수행하도록 허용된 모든 행동의 집합입니다. 액션 스페이스를 명확히 정의하는 것은 안전성과 예측 가능성을 확보하는 데 매우 중요합니다.
7. 정책(Policy) – 에이전트가 의사결정을 내리고 행동을 선택하는 방식을 규정하는 규칙의 집합입니다. 정책은 비즈니스 및 컴플라이언스 요구 사항과의 정합성을 보장합니다.
8. 플래너(Planner) – 상위 수준의 목표를 실행 가능한 단계로 나누는 구성 요소입니다. 계획 기능 덕분에 에이전트는 복잡한 다단계 워크플로를 처리할 수 있습니다.
9. 실행기(Executor) – 도구, API, 워크플로를 호출해 계획된 작업을 수행하는 구성 요소입니다. 실행기는 추론을 실제 결과로 전환합니다.
10. 추론 엔진(Reasoning Engine) – 맥락, 제약 조건, 선택지를 평가해 다음 행동을 결정하는 로직 계층입니다. 탄탄한 추론 능력은 신뢰할 수 있는 에이전트 동작의 기반입니다.

메모리, 지식 및 컨텍스트 관리

11. 메모리(Memory) – 에이전트가 시간이 지나도 정보를 보존하고 불러올 수 있게 하는 저장 메커니즘입니다. 메모리는 연속성, 개인화, 학습을 가능하게 합니다.
12. 단기 메모리(Short-Term Memory) – 단일 상호작용이나 세션 동안 유지되는 컨텍스트입니다. 이를 통해 에이전트는 대화 흐름과 즉각적인 의도를 파악할 수 있습니다.
13. 장기 메모리(Long-Term Memory) – 사실, 선호도, 과거 상호작용을 지속적으로 저장하는 것입니다. 장기 메모리는 개인화와 조직 지식 축적을 뒷받침합니다.
14. 벡터 데이터베이스(Vector Database) – 임베딩 기반 유사도 검색에 최적화된 특수 데이터베이스입니다. 에이전트의 메모리와 지식을 저장하는 데 흔히 사용됩니다.
15. 임베딩(Embeddings) – 텍스트나 데이터의 의미를 담아낸 수치 표현입니다. 임베딩을 통해 에이전트는 관련 정보를 효율적으로 검색할 수 있습니다.
16. 검색 증강 생성(Retrieval-Augmented Generation, RAG) – 응답을 생성하기 전에 관련 기업 지식을 검색해 AI 출력의 근거를 마련하는 기법입니다. Maven은 검색 패턴을 활용해 Salesforce, Zendesk, Freshdesk, 업로드한 파일, 크롤링한 URL 등의 소스로 구축된 Knowledge Base에 답변의 근거를 둡니다.
17. 지식 베이스(Knowledge Base) – FAQ, 정책, 문서 등 엄선된 기업 콘텐츠의 모음입니다. 에이전트는 근거 있는 응답을 위해 지식 베이스를 활용합니다.
18. 그라운딩(Grounding) – 에이전트의 응답을 검증된 데이터 소스에 기반하도록 하는 방식입니다. 그라운딩은 할루시네이션을 줄이고 신뢰성을 높입니다.
19. 컨텍스트 윈도(Context Window) – LLM이 한 번에 고려할 수 있는 정보의 양입니다. 컨텍스트 윈도 관리는 성능과 비용 관리에 필수적입니다.
20. 할루시네이션(Hallucination) – AI 모델이 잘못되었거나 지어낸 정보를 생성하는 현상입니다. 엔터프라이즈 플랫폼은 할루시네이션을 적극적으로 억제해야 합니다.

모델, 프롬프트 및 도구

21. 대규모 언어 모델(Large Language Model, LLM) – 방대한 텍스트 코퍼스로 학습해 언어를 이해하고 생성하는 모델입니다. LLM은 많은 에이전트에서 추론의 핵심 역할을 합니다.
22. 파운데이션 모델(Foundation Model) – 다양한 다운스트림 작업에 맞게 조정할 수 있는 범용 모델입니다. 파운데이션 모델은 여러 활용 사례에 유연하게 대응할 수 있게 합니다.
23. 프롬프트 엔지니어링(Prompt Engineering) – 에이전트의 동작과 출력을 이끄는 프롬프트를 설계하는 작업입니다. 효과적인 프롬프트는 일관성과 신뢰성을 높입니다.
24. 시스템 프롬프트(System Prompt) – 에이전트의 역할, 어조, 범위, 목표를 정의하는 지시문입니다. 시스템 프롬프트는 에이전트의 동작 방향을 정렬합니다.
25. 도구 호출(Tool Calling) – 에이전트가 작업을 완료하기 위해 외부 도구, API, 시스템을 호출하도록 하는 기능입니다. 도구 호출 덕분에 에이전트가 실제 행동을 할 수 있습니다.
26. 함수 호출(Function Calling) – 모델이 검증된 입력값으로 사전 정의된 함수를 호출하는 구조화된 방식입니다. 정밀도와 안전성을 높여 줍니다.
27. API 통합(API Integration) – 에이전트를 티켓 관리, 결제, 데이터 플랫폼 등 기업 시스템에 연결하는 것입니다. 통합을 통해 대규모 자동화가 가능해집니다.
28. CRM 통합(CRM Integration) – 고객 데이터를 활용해 에이전트의 행동을 개인화하고 맥락에 맞게 조정하는 것입니다. CX 활용 사례에서 CRM 통합은 매우 중요합니다.
29. 이벤트 기반 아키텍처(Event-Driven Architecture) – 에이전트가 정적인 요청이 아니라 이벤트나 트리거에 반응하도록 하는 설계 방식입니다. 선제적 자동화를 지원합니다.
30. 워크플로 자동화(Workflow Automation) – 수작업 없이 비즈니스 프로세스를 처음부터 끝까지 실행하는 것입니다. 에이전틱 워크플로는 단순한 규칙 기반 자동화를 뛰어넘습니다.

오케스트레이션, 안정성 및 확장

31. 오케스트레이션(Orchestration) – 여러 에이전트, 도구, 워크플로를 하나의 일관된 시스템으로 조율하는 것입니다. Maven 고객은 오케스트레이션을 통해 Actions, Knowledge, 워크플로를 엔드투엔드 지원 프로세스로 연결합니다(MavenAGI 실제 도입 사례 참고).
32. 동시성(Concurrency) – 여러 에이전트 프로세스를 동시에 실행하는 능력입니다. 대량 처리 환경에서는 동시성이 필수입니다.
33. 지연 시간(Latency) – 에이전트가 응답하거나 행동하는 데 걸리는 시간입니다. 고객 대면 활용 사례에서는 낮은 지연 시간이 매우 중요합니다.
34. 처리량(Throughput) – 에이전트 시스템이 일정 시간 동안 처리할 수 있는 작업의 수입니다. 처리량은 확장성을 보여 줍니다.
35. 확장성(Scalability) – 수요가 증가해도 성능과 안정성을 유지하는 능력입니다. 엔터프라이즈 에이전트는 예측 가능하게 확장되어야 합니다.
36. 대체 전략(Fallback Strategy) – 에이전트가 실패하거나 확신이 부족할 때를 대비해 미리 정의한 대체 경로입니다. 대체 전략은 고객 경험을 보호합니다.
37. 에스컬레이션 경로(Escalation Path) – 필요할 때 문제를 상담원이나 전문 에이전트에게 전달하는 경로입니다. 효과적인 에스컬레이션은 자동화와 신뢰 사이의 균형을 맞춥니다.
38. 자가 복구(Self-Healing) – 오류나 장애를 자동으로 감지하고 복구하는 기능입니다. 자가 복구는 복원력을 높입니다.
39. 상태 관리(State Management) – 여러 상호작용에 걸쳐 에이전트의 컨텍스트와 진행 상황을 추적하는 것입니다. 상태 관리는 연속성을 보장합니다.
40. 세션 관리(Session Management) – 사용자와 에이전트 간의 개별 상호작용을 안전하고 효율적으로 처리하는 것입니다.

거버넌스, 보안 및 컴플라이언스

41. 가드레일(Guardrails) – 안전하지 않거나, 규정에 어긋나거나, 바람직하지 않은 행동을 방지하는 제약입니다. 가드레일은 특히 에이전트가 Actions를 호출하거나 기업 Knowledge를 사용할 때 에이전트의 동작을 안전하고 규정에 맞게 유지하는 정책, 제약, 점검 장치입니다(MavenAGI의 신뢰, 보안 및 컴플라이언스 정책 참고).
42. 휴먼 인 더 루프(Human-in-the-Loop, HITL) – 에이전트 워크플로 안에 사람의 검토를 포함하는 방식입니다. HITL은 초기 배포 단계에서 자주 사용됩니다.
43. 휴먼 온 더 루프(Human-on-the-Loop) – 사람이 에이전트를 감독하다가 임계값을 넘었을 때만 개입하는 방식입니다. 감독을 유지하면서도 규모를 확장할 수 있습니다.
44. 거버넌스(Governance) – 책임 있는 에이전트 동작을 보장하는 정책, 통제, 프로세스입니다. 엔터프라이즈 도입에 매우 중요합니다.
45. 컴플라이언스(Compliance) – 규제, 법률, 조직 기준을 준수하는 것입니다. 컴플라이언스 요구 사항은 업계마다 다릅니다.
46. 데이터 프라이버시(Data Privacy) – 에이전트가 사용하는 민감한 고객 및 기업 데이터를 보호하는 것입니다. 설계 단계부터 프라이버시를 고려하는 것이 필수입니다.
47. 보안(Security) – 무단 접근, 오용, 데이터 유출을 막는 안전장치입니다. 보안은 신뢰의 기반입니다.
48. 접근 제어(Access Control) – 에이전트의 행동과 데이터 접근에 대한 권한을 관리하는 것입니다. 세분화된 제어는 위험을 줄입니다.
49. 감사 로그(Audit Logs) – 에이전트의 행동과 결정을 변경 불가능하게 기록한 것입니다. 감사 가능성은 컴플라이언스와 책임성을 뒷받침합니다.
50. 설명 가능성(Explainability) – 에이전트가 특정 행동을 한 이유를 이해하고 설명할 수 있는 능력입니다.

평가, 최적화 및 학습

51. 관측성(Observability) – 에이전트의 동작, 결정, 결과를 들여다볼 수 있는 가시성입니다. 관측성은 지속적인 개선을 가능하게 합니다.
52. 텔레메트리(Telemetry) – 모니터링과 분석을 위해 에이전트가 생성하는 운영 데이터입니다. 텔레메트리는 평가 시스템의 기초 자료가 됩니다.
53. 평가(Evaluation, Eval) – 에이전트의 정확도, 품질, 비즈니스 영향을 측정하는 것입니다. 평가는 일회성이 아니라 지속적으로 이루어져야 합니다.
54. 벤치마킹(Benchmarking) – 에이전트 성능을 기준치나 대안과 비교하는 것입니다. 벤치마크는 투자 결정의 근거가 됩니다.
55. A/B 테스트(A/B Testing) – 여러 에이전트 버전을 테스트해 최적의 성능을 찾는 것입니다. A/B 테스트는 위험을 줄입니다.
56. 성찰(Reflection) – 에이전트가 자신의 출력을 평가하고 개선하는 능력입니다. 성찰은 견고성을 높입니다.
57. 피드백 루프(Feedback Loop) – 사용자나 시스템의 피드백을 에이전트 개선 주기에 반영하는 것입니다.
58. 지속적 학습(Continuous Learning) – 시간이 지나면서 에이전트의 동작을 꾸준히 개선하는 것입니다. 지속적 학습은 장기적인 가치를 뒷받침합니다.
59. 합성 데이터(Synthetic Data) – 테스트나 학습에 사용하기 위해 인위적으로 생성한 데이터입니다. 합성 데이터는 민감한 데이터에 대한 의존도를 낮춥니다.
60. 시뮬레이션(Simulation) – 프로덕션 배포 전에 통제된 환경에서 에이전트의 동작을 테스트하는 것입니다.

CX, 자동화 및 비즈니스 성과

61. 대화형 AI(Conversational AI) – 자연어로 사용자와 상호작용하는 에이전트입니다. 대화형 에이전트는 CX 자동화의 핵심입니다.
62. 자연어 이해(Natural Language Understanding, NLU) – 사용자의 의도, 개체, 맥락을 해석하는 것입니다. NLU는 정확한 라우팅과 문제 해결을 가능하게 합니다.
63. 자연어 생성(Natural Language Generation, NLG) – 일관되고 사람과 같은 응답을 만들어 내는 것입니다. NLG는 고객이 체감하는 품질에 영향을 줍니다.
64. 감성 분석(Sentiment Analysis) – 사용자 메시지의 감정적 어조를 감지하는 것입니다. 감성 분석 결과는 에스컬레이션과 개인화에 활용됩니다.
65. 의도 분류(Intent Classification) – 사용자 요청을 사전 정의된 의도로 분류하는 것입니다. 의도 분류의 정확도가 해결률을 좌우합니다.
66. 슬롯 채우기(Slot Filling) – 비정형 입력에서 구조화된 정보를 추출하는 것입니다. 슬롯 채우기는 자동화를 뒷받침합니다.
67. 개인화(Personalization) – 사용자의 맥락과 이력에 맞춰 에이전트의 동작을 조정하는 것입니다. 개인화는 CSAT를 높입니다.
68. CX 자동화(CX Automation) – 에이전트와 워크플로를 활용해 수작업 없이 고객 상호작용과 백엔드 작업을 처리하는 것입니다. Maven에서는 Maven 플랫폼이 CX 자동화를 구동하며, 에이전트가 Actions와 Knowledge를 활용해 대화를 해결하고 CRM, 헬프데스크 등의 시스템과 통합됩니다.
69. 자율 해결(Autonomous Resolution) – 사람의 개입 없이 고객 업무를 완료하는 것입니다. 자율 해결은 고객 응대 비용을 줄입니다.
70. 케이스 디플렉션(Case Deflection) – 지원 티켓을 생성하지 않고 문제를 해결하는 것입니다. 디플렉션은 운영 효율을 높입니다.

지표, ROI 및 구매 시 고려 사항

71. 첫 응대 해결(First Contact Resolution, FCR) – 한 번의 상호작용으로 고객 문제를 해결하는 것입니다. FCR은 핵심 CX 지표입니다.
72. CSAT – 고객이 체감한 경험의 품질을 측정하는 고객 만족도 점수입니다.
73. 순추천지수(Net Promoter Score, NPS) – 고객 충성도와 추천 의향을 나타내는 지표입니다.
74. ROI – 에이전틱 AI 투자로 얻는 재무적 수익입니다. 규모를 확대하려면 ROI를 입증하는 것이 필수입니다.
75. 가치 실현 시간(Time to Value, TTV) – 배포 후 조직이 실제 효과를 얻기까지 걸리는 시간입니다.
76. 비용 최적화(Cost Optimization) – 컴퓨팅, 도구, 모델 비용을 관리하는 것입니다. 비용 관리는 지속 가능한 운영을 뒷받침합니다.
77. 토큰 관리(Token Management) – LLM의 입력 및 출력 사용량을 관리하는 것입니다. 토큰 효율은 비용에 직접적인 영향을 미칩니다.
78. 도입 지표(Adoption Metrics) – 팀이나 고객 전반의 에이전트 사용량과 참여도를 추적하는 지표입니다.
79. 변화 관리(Change Management) – 에이전트 도입에 대비해 사람과 프로세스를 준비시키는 것입니다. 변화 관리는 저항을 줄입니다.
80. 역량 강화(Enablement) – 팀이 에이전틱 시스템과 효과적으로 협업할 수 있도록 교육하는 것입니다.

플랫폼 전략 및 엔터프라이즈 준비도

81. 에이전트 프레임워크(Agent Framework) – 에이전트를 구축하고 관리하는 데 사용하는 소프트웨어 프레임워크입니다. 어떤 프레임워크를 선택하느냐에 따라 유연성이 달라집니다.
82. 플랫폼 접근 방식(Platform Approach) – 개별 도구를 이어 붙이는 대신 하나의 시스템으로 표준화해 에이전트를 배포, 모니터링, 관리하는 방식입니다. Maven은 Knowledge, Actions, 품질 관리, Insights를 하나로 통합한 플랫폼으로 이 모델을 따릅니다.
83. 베스트 오브 브리드(Best-of-Breed) – 단일 플랫폼 대신 전문화된 도구를 조합하는 방식입니다. 유연성은 높아지지만 복잡성도 커집니다.
84. 상호 운용성(Interoperability) – 에이전트가 여러 시스템과 벤더에 걸쳐 작동할 수 있는 능력입니다.
85. 벤더 종속(Vendor Lock-In) – 단일 기술 공급업체에 의존하는 상태입니다. 구매자는 이탈 전략을 함께 검토해야 합니다.
86. 개방형 표준(Open Standards) – 이식성과 통합을 가능하게 하는 공용 프로토콜입니다.
87. 로드맵(Roadmap) – 에이전트 역량과 기능의 향후 발전 계획입니다.
88. 개념 검증(Proof of Concept, POC) – 본격적인 확장에 앞서 가치를 검증하기 위한 제한적 배포입니다.
89. 프로덕션 준비도(Production Readiness) – 실제 운영 환경에 필요한 안정성, 보안, 확장성을 갖춘 상태입니다.
90. 엔터프라이즈급(Enterprise-Grade) – 에이전트가 프로덕션 환경에서 안전하게 운영될 수 있도록 안정성, 거버넌스, 보안, 확장성 요건을 충족하는 것입니다. Maven은 심층 통합, 분석, Actions와 Knowledge에 대한 통제 기능을 포함해 엔터프라이즈급 배포를 위해 설계되었습니다(MavenAGI 실제 도입 사례 참고).

고급 에이전트 역량

91. 선제성(Proactivity) – 명시적인 프롬프트 없이 에이전트가 먼저 행동을 시작하는 것입니다. 선제적 에이전트는 새로운 효율을 만들어 냅니다.
92. 추천 엔진(Recommendation Engine) – 맥락과 데이터를 바탕으로 다음에 취할 최적의 행동을 제안하는 기능입니다.
93. 의사결정 지원(Decision Support) – 최종 결정은 사람에게 맡기고 인사이트를 제공해 사람을 돕는 것입니다.
94. 상황 인식(Contextual Awareness) – 입력 자체를 넘어 상황의 미묘한 차이까지 이해하는 능력입니다.
95. 신뢰도 점수(Confidence Scoring) – 에이전트 출력의 신뢰성을 추정하는 것입니다.
96. 성숙도 모델(Maturity Model) – 에이전트 역량이 성장하는 단계를 설명하는 프레임워크입니다.
97. 구축 대 구매(Build vs. Buy) – 맞춤형 에이전트를 직접 구축할지, 플랫폼을 도입할지 평가하는 것입니다.
98. 지식 그라운딩 전략(Knowledge Grounding Strategy) – 사실 정확성을 보장하기 위한 체계적인 접근 방식입니다.
99. 운영 AI(Operational AI) – 실제 비즈니스 프로세스에 직접 통합된 AI입니다.
100. 자율형 기업(Autonomous Enterprise) – 가드레일 안에서 에이전트가 반복적인 운영과 워크플로의 상당 부분을 처리하고, 사람은 판단, 관계, 예외 상황에 집중하는 조직입니다. Maven에서는 AI만으로 운영하는 것이 아니라 사람과 에이전트가 함께하는 하이브리드 팀의 모습으로 구현됩니다.

구현 가이드와 실제 사례가 궁금하다면 고객 사례를 살펴보거나, 라이브 시연을 위해 팀에 문의하세요.