향후 10년간 아태지역 AI 시장 5배 성장…“핵심은 AI거버넌스 개선”

한국딜로이트그룹이 보고서(아태지역 AI 거버넌스 서베이: AI 신뢰 구축을 통한 성장 전략)를 통해 아태지역 기업의 90% 이상이 인공지능(AI) 거버넌스의 개선을 필요로 하고 있지만 실제 구축에는 어려움을 겪고 있는 것으로 조사됐다고 전했다.

딜로이트는 아태지역 900명 이상 고위 리더들을 대상으로 한 설문조사 결과를 토대로 작성된 보고서를 인용해 AI 관련 투자가 2030년까지 1,170억달러(약 170조7000억원)에 도달할 것으로 예측했다. 이는 향후 10년간 5배 규모의 성장을 이뤄낼 것이라는 전망이다.

다만 설문에 참여한 리더들은 ‘보안취약성(86%)’, ‘감시(83%)’, ‘개인정보보호(83%)’가 AI 활용 시 고려해야 할 주요 리스크로 지목됐다.

딜로이트는 이와 더불어 소비자의 62%가 AI를 윤리적으로 활용하는 기업에 더 높은 신뢰를 보였다는 점에 주목하면서 기업의 리스크 관리 역량이 경쟁력의 핵심요소로 떠오르고 있다고 지목했다.

이에 따라 딜로이트는 ‘신뢰할 수 있는 AI 프레임워크’를 기반으로 한 거버넌스 구축에 대해 강조했다.

즉 ▲투명성과 설명 가능성 ▲공정성과 편견 제거 ▲견고성과 신뢰성 ▲개인정보보호 존중 ▲안전과 보안 ▲책임성 ▲명확한 책임 소재를 핵심 원칙으로 설정하면서 이를 위해 조직 구조, 정책과 원칙, 절차와 통제, 인력과 스킬, 모니터링·보고 등 AI거버넌스 구축에 필요한 주요 항목에 대한 성숙도 진단 평가가 필요하다는 것이 딜로이트의 조언이다. 

딜로이트는 AI거버넌스 구축을 위한 대책으로 명확한 정책과 기준, AI리스크 평가 절차, 사용 중인 AI솔루션의 목록화, AI솔루션 사용에 따른 리스크를 줄이기 위한 관리체계가 포함된 프로세스와 관리체계 기준을 핵심요소로 제시하고 인력과 역량에 대한 기준도 필요하다고 조언했다.

보고서에 따르면, 직원들 중 평균 56%만이 AI를 책임감 있게 사용할 기술과 역량을 갖추고 있고, 교육 등을 통해 이러한 격차를 효과적으로 해소할 수 있다.

AI 교육을 제공하는 기업은 그렇지 않은 기업에 비해 AI를 안전하게 사용할 수 있는 직원의 비율이 27% 더 높다고 분석하면서 문제 해결에 신속한 대응을 위한 AI 거버넌스 모니터링 구축도 필수적이라고 지적했다.

또 AI거버넌스 성숙도 지수에서 '준비 완료' 단계에 도달한 기업은 고객 서비스, 마케팅·판매, 운영·생산, 연구개발(R&D) 등 다양한 영역에서 AI를 사용할 가능성이 3배 이상 높게 나타났다.

AI거버넌스 체계를 구축하면 AI솔루션이 배포된 분야에서의 활용 범위가 증가했음도 확인됐다고 딜로이트는 설명했다.

한편, 딜로이트는 기업 리더가 AI거버넌스를 개선하기 위해 AI 수익 창출을 위한 명확한 AI거버넌스 우선순위를 설정해야 한다고 강조했다.

광범위한 AI 공급망의 이해와 활용을 통해 기업의 경쟁력을 강화하고 직원들을 단순한 리스크 회피자에서 리스크 관리자로 양성하는 것이 중요하는 것으로, 조직 내 소통 강화와 AI전환 준비체계 구축을 신뢰할 수 있는 AI거버넌스 정착을 위한 필수요소로 제시했다.