AI 에이전트는 누구나 만들 수 있습니다. 하지만 직접 운영할 수 있을까요?

소프트웨어 시스템 수명 주기 비용에서 유지보수가 차지하는 비중은 평균 약 60%이며, 시스템 유형에 따라 40%에서 80%까지 다릅니다. 그 대부분은 요구 사항 변화에 따른 기능 개선입니다.

동일한 소수·합성수 판별 과제에서 GPT-4의 정확도는 2023년 3월 84.0%에서 2023년 6월 51.1%로 떨어졌습니다. 연구진은 LLM의 동작이 짧은 기간에도 크게 달라질 수 있어 지속적인 모니터링이 필요하다고 결론지었습니다.

전문 벤더에게서 구매한 AI 도구의 성공률은 67%였습니다. 자체 구축의 성공률은 그 3분의 1 수준에 그쳤습니다. 이 연구는 경영진 인터뷰 150건, 직원 350명 대상 설문 조사, 공개된 AI 도입 사례 300건 분석을 바탕으로 합니다.

조사된 AI 개념 검증(PoC)의 88%가 전사적 도입까지 이어지지 못합니다. 기업이 AI PoC를 33건 진행할 때마다 프로덕션으로 전환된 것은 4건에 불과했습니다.

브리티시컬럼비아주 재판소는 Air Canada 웹사이트의 챗봇이 고객에게 유족 할인 요금에 관해 잘못된 정보를 제공한 사건에서, Air Canada에 손해배상금과 이자, 수수료를 지급하라고 명령했습니다. 재판소는 챗봇이 자신의 발언에 스스로 책임지는 별개의 주체라는 주장을 받아들이지 않았습니다.

Gartner는 비용 증가, 불분명한 비즈니스 가치, 미흡한 리스크 통제로 인해 2027년 말까지 에이전틱 AI 프로젝트의 40% 이상이 취소될 것으로 예측합니다.

Gartner에 따르면 “평균적으로 AI 프로토타입의 48%만이 프로덕션에 도달”하며, AI 프로토타입에서 프로덕션까지는 “평균 8.2개월”이 걸립니다.

Gartner는 AI 에이전트 자체 구축에 드는 초기 투자를 $2.5M~$4.3M으로, 구매 시에는 $1.5M~$2.7M으로 추산합니다.

자체 구축은 벤더가 맡아 줄 모델 유지 관리를 직접 책임지고, 구하기 어려운 AI 인재를 채용하며, 더 무거운 컴플라이언스 감사를 감당해야 함을 의미합니다. Gartner는 이를 지속할 수 있는 팀의 역량을 과대평가하지 말라고 경고합니다.