AI 에이전트 도입 열풍… 속내는 ‘거버넌스 공백’

가트너 조사, 75% 기업 도입 나섰지만 완전 자율은 15%뿐
보안·기술 불신이 발목

차세대 AI 기술로 주목받는 ‘AI 에이전트’에 대한 기업들의 관심은 뜨겁지만, 그 이면에는 기술에 대한 깊은 불신과 준비 부족이 자리하고 있는 것으로 나타났다. 글로벌 IT 리서치 기업 가트너(Gartner)가 발표한 최신 설문조사에 따르면, IT 애플리케이션 리더의 75%가 AI 에이전트를 시범 도입했거나 이미 배포 중이라고 답했지만, 사람의 감독 없이 스스로 목표를 수행하는 ‘완전 자율 AI 에이전트’ 도입을 고려하는 비율은 15%에 그쳤다.

이번 조사는 2025년 5월부터 6월까지 북미, 유럽, 아태지역 기업의 IT 애플리케이션 리더 360명을 대상으로 진행됐다. 조사 결과는 AI 에이전트를 둘러싼 시장의 과대광고와 실제 기업 현장의 온도 차이를 명확하게 보여준다.

장밋빛 전망 뒤에 숨은 ‘불신’의 벽

많은 기업이 AI 에이전트 도입에 나서고 있음에도 불구하고 완전 자율 솔루션으로의 전환을 주저하는 이유는 명확하다. 바로 거버넌스의 부재와 기술 성숙도에 대한 근본적인 불신 때문이다.

보고서에 따르면, 응답자의 74%는 AI 에이전트가 조직 내 새로운 공격 경로가 될 수 있다고 우려했다. 공급업체가 제공하는 환각 방지 기능을 높게 신뢰한다는 응답은 19%에 불과했으며, AI 에이전트를 관리할 적절한 거버넌스 체계를 갖췄다고 확신한 응답자는 13%에 그쳤다. 이는 대부분의 기업이 AI 에이전트가 가져올 잠재적 위험을 통제할 준비가 되어 있지 않다고 느끼고 있음을 시사한다.

맥스 고스(Max Goss) 가트너 시니어 디렉터 애널리스트는 “공급업체들은 AI 에이전트를 기존 생성형 AI의 한계를 극복할 기술로 제시하고 있지만, 거버넌스 부재, 기술 성숙도, 확산에 대한 우려가 진정한 에이전틱 AI 구축을 가로막고 있다”고 분석했다.

조직 내 불협화음, AI 가치 창출 막는다

AI 에이전트의 성공적인 도입을 가로막는 또 다른 장벽은 조직 내부에 있었다. AI 활용 목표에 대해 IT, 비즈니스, 경영진 간 의견이 매우 일치한다고 답한 응답자는 14%에 불과했다.

이러한 내부 합의의 부재는 AI 프로젝트의 방향성과 가치 창출에 직접적인 영향을 미쳤다. 내부 의견이 일치하는 기업은 ‘고객 서비스’, ‘ERP’, ‘영업’ 등 직접적인 가치 창출이 가능한 영역에 AI 에이전트를 집중시키는 경향을 보였다. 반면, 합의가 부족한 기업들은 상대적으로 위험 부담이 적은 ‘사무 생산성’ 향상을 우선순위로 두는 경향이 두 배 가까이 높았다.

고스 애널리스트는 “AI 활용 목표와 가치 측정 방법에 대한 합의는 성공적인 AI 배포의 핵심”이라며, “이해 부족으로 사무 생산성을 기본 선택지로 삼을 수 있지만, 반드시 최대 가치를 제공하는 영역은 아니다”라고 지적했다. 실제로 AI 에이전트의 영향을 가장 크게 받을 분야로는 분석 및 비즈니스 인텔리케이션(64%)과 고객 서비스(55%)가 사무 생산성(39%)을 앞질렀다.

장기적인 관점에서 AI 에이전트가 기존 애플리케이션이나 인력을 대체할 가능성은 아직 낮게 평가됐다. 향후 2~4년 내 애플리케이션을 대체할 것이라고 강력히 동의한 응답자는 12%, 작업자를 대체할 것이라는 응답자는 7%에 그쳤다.

가트너는 기업들이 성공적으로 AI 에이전트를 도입하기 위해서는 ▲플랫폼에 종속되지 않는 거버넌스 프레임워크 구축 ▲사무 생산성을 넘어 실질적 ROI가 높은 영역에 대한 전략적 배치 ▲단일 공급업체에 의존하지 않는 멀티벤더 전략 채택이 중요하다고 했다.