“아태지역 3분의 1, 생성AI 내재화 시작했다”

한국IDC가 아시아태평양지역 기업의 생성형 인공지능(AI) 동향과 성공사례를 분석한 보고서(IDC 서베이 스포트라이트: 아시아태평양 지역 조직의 생성형 AI도입·적용 동향)를 내고 아태기업들이 생성AI를 내재화해 혁신에 활용하는 작업에 돌입했다고 강조했다. 

7일 보고서에 따르면, 아태기업 중 32%가 생성AI 기술에 적극적인 투자를 예고했으며, 38%는 생성AI 적용을 위해 다양한 사용사례를 참고할 것이라고 응답했다.

즉 엔터프라이즈 인텔리전스를 향상시키기 위해 생성AI를 핵심요소로 적용하고, 금융·제조 등 다양한 산업군에서 생성AI 도입은 물론 마케팅·영업·고객지원 등 다양한 업무 분야에서 생성AI가 본격 활용이 기대된다는 것이다.

소프트웨어의 활용사례를 살펴보면 아태지역에서 가장 많이 활용되는 생성AI 사례는 ‘지식 관리’로 나타났다. 기업은 AI기반 지식 관리를 통해 다양한 유형의 이미지, 문서, 음성, 기타 형식의 대규모 정보 저장소에 접근하고 검색에 활용해 새로운 가치 창출을 꾀하고 있다.

또 다른 생성AI 활용사례는 ‘코드 생성’으로 애플리케이션 프로그래머가 코드의 생성, 최적화, 완료, 테스트, 디버그하는 과정에서 생성AI를 통해 프로그래머의 생산성과 코드의 품질 향상이 이뤄지고 있다.

코드 생성에 이어서는 마케팅 자동화, 대화형 애플리케이션과 같은 ‘고객 대면 서비스’에 생성AI가 다수 활용되면서 맞춤화된 마케팅 콘텐츠와 검색 엔진에 최적화된 콘텐츠 제작을 뒷받침하고 있다.

생성AI의 대두는 서비스형 모델(MaaS) 오퍼링을 제공하는 하이퍼스케일러와 클라우드 서비스 공급업체, 포인트 솔루션을 제공하는 AI 엔지니어링 업체는 물론 이러한 솔루션을 호스팅할 수 있는 인프라를 판매하고자 하는 전문 스토리지 업체 등 다양한 기술 공급업체의 참여를 견인하고 있다.

특히 대규모언어모델(LLM)을 테스트하기 위한 방대한 데이터에서 개인정보와 같은 민감한 데이터를 규제에 맞춰 활용할 수 있게 하고, 데이터 편향과 같은 문제를 해결하기 위해 모델 훈련 목적으로 활용할 수 있는 합성 데이터를 제공하는 기업도 급증하는 추세다.

반면, 높은 비용은 생성AI 확산의 걸림돌로 꼽혔다. 기업이 LLM을 활용하면서 특정 사용 사례에 맞게 데이터를 채택·학습·미세 조정하기 위해서는 막대한 컴퓨팅·에너지가 요청되며, 이를 위한 높은 비용이 기업의 부담으로 작용하는 것이다.

이같은 현상에서 대안으로 프롬프트 엔지니어링과 같은 방안이 시도되고 있다. 프롬프트 엔지니어링은 올바른 응답을 도출하기 위해 자연어 유형 쿼리를 작성해 모델을 훈련시키는 단순화된 방법과 프롬프트 튜닝을 통해 모델을 재교육하거나 매개 변수를 조정하지 않고 모델을 더 간단하게 교육하여 컴퓨팅 요구사항을 낮추는 방법론이다. 

다른 한편으로는 데이터 개인정보보호, 보안, IP 권한, AI 생성 콘텐츠의 잠재적 오용 등도 해결해야 할 과제로 제기된다. 문제는 각국 정부의 규제 방침이 서로 다른 양상을 보이고 있다는 점이다.

아태지역에서도 인도·일본정부 등은 기술 발전을 저해하는 AI 규제에 반대하는 입장을 지닌 반면, 중국정부는 국가사이버정보판공실(CAC)의 공식 출범에 앞서 생성AI에 대한 보안 평가와 해당 기술이 미치는 영향을 공개하며 비교적 부정적인 견해를 나타내고 있다. 

디피카 기리 IDC 아태지역 빅데이터·AI 리서치 헤드는 "생성AI는 조직의 환경을 이전과 다른 새로운 방식으로 재창조할 수 있는 잠재력이 있지만, AI기술을 적용할 때 내재된 복잡성과 위험성을 간과해서는 안된다”며, "생성AI 기술은 현재 대부분 활용 초기 단계에 머물러 있어 공급 업체들이 AI기술과 관련된 개인정보보호, 보안, 정확성, 저작권, 편향·남용 문제를 아직 완전히 해결하기는 어렵다”고 짚었다.