한국, 데이터 준비도 높지만 AI 신뢰 투자는 ‘소극적’… 글로벌과 격차 확인

머신러닝 도입률 95%로 세계 1위권이나 신뢰 투자는 4% 불과… ‘신뢰의 양극화’ 해소 시급

글로벌 데이터 및 AI 선도 기업 SAS가 IDC에 의뢰해 발간한 ‘데이터 및 AI 영향력 보고서: 신뢰가 이끄는 AI 시대(Data and AI Impact Report: The Trust Imperative)’에 따르면, 한국 기업들은 데이터 인프라 면에서 세계적인 수준을 갖췄음에도 불구하고, AI 거버넌스와 윤리적 신뢰 구축을 위한 투자에는 매우 보수적인 태도를 보이고 있는 것으로 나타났다. 특히 한국 조직의 머신러닝(ML) 기반 AI 도입률은 95.5%로 글로벌 평균을 크게 웃돌았지만, 최근 핵심으로 떠오른 신뢰 기반 투자 의지는 글로벌 평균의 10분의 1 수준에 머물렀다.

데이터 강국의 역설: 준비는 됐지만 ‘신뢰’가 없다

한국 기업의 36%는 고급 수준의 데이터 인프라를 보유하고 있어 글로벌 평균과 어깨를 나란히 하고 있다. 하지만 정작 ‘신뢰할 수 있는 AI’를 구현하기 위한 소프트웨어 및 인프라 투자를 늘리겠다는 응답은 4%에 그쳤다. 이는 전 세계 평균인 52%와 비교했을 때 매우 이례적으로 낮은 수치다.

보고서는 이를 ‘신뢰의 역설’로 규정한다. 기술적 인프라에는 집중하면서도, AI가 내린 결정을 설명하고 책임질 수 있는 제도적·윤리적 프레임워크 구축은 뒷전으로 밀려나 있다는 지적이다. 실제로 AI 거버넌스 체계(-16%), 책임감 있는 AI 정책(-10%), 보안 및 규정 준수(-21%) 등 신뢰와 직결된 모든 항목에서 한국은 글로벌 평균을 하회했다.

보수적인 신기술 채택과 단기 성과 중심의 AI 활용

한국 기업들의 기술 도입 패턴에서도 뚜렷한 보수성이 드러났다. 머신러닝 등 기존 AI 도입률은 95.5%로 압도적이지만, 생성형 AI(68.2%)나 에이전틱 AI(35.8%) 등 최신 기술의 도입은 글로벌 평균(각각 81.4%, 51.5%)에 미치지 못했다.

이러한 태도의 배경에는 AI 도입 목적이 ‘비즈니스 위험 감소’(49%)나 ‘비용 절감’(44%) 등 단기적이고 기능적인 성과에 치우쳐 있기 때문이라는 분석이 나온다. 장기적인 혁신보다는 당장의 효율성에 집중하다 보니, 신기술 수용과 그에 따른 리스크 관리(신뢰 구축)에 소극적이게 되는 것이다.

‘신뢰의 양극화’ 현상과 장기 로드맵의 필요성

조사 결과 한국 내에서도 기업 간 편차가 큰 ‘신뢰의 양극화(Trust Divide)’ 현상이 확인됐다. 응답 기업의 26%는 AI 신뢰 수준이 ‘고급’으로 평가된 반면, 30%는 여전히 ‘기초’ 수준에 머물러 있었다. 이는 일부 대기업이 AI 혁신을 주도하는 사이 대다수 중소·중견기업은 여전히 신뢰 기반의 거버넌스 구축에 어려움을 겪고 있음을 시사한다.

IDC는 한국이 AI 활용의 초기 단계를 지나 비즈니스 핵심으로 통합되려면, 투명성(Transparency)과 책임성(Accountability)을 담보하는 체계적인 투자와 장기적인 로드맵이 반드시 뒷받침되어야 한다고 조언했다. SAS코리아의 이중혁 대표 역시 국내 금융 및 공공 부문의 LLM과 AI 에이전트 도입이 본격화되는 만큼, 신뢰할 수 있는 AI 플랫폼과 거버넌스가 기업 경쟁력의 핵심이 될 것이라고 강조했다.