옴디아가 ‘2023 생성형 AI 시장 전망 보고서’를 통해 생성AI의 폭발적 인기는 현실이지만, 인공지능(AI)의 문제로 지적되던 과제들은 여전히 남아 있다고 지적했다. 다만 이러한 혼란을 딛고 나면 창의적 혁신이 증가할 것으로 옴디아는 기대했다.

초대규모 언어모델을 바탕으로 인간처럼 대화하는 챗GPT의 등장은 전세계를 흥분시켰다. 다수의 기업들이 챗GPT처럼 자유롭게 대화하고, 스스로 이미지를 창출할 수 있는 생성AI를 바탕으로 한 검색과 서비스 개발에 앞다퉈 나서고 있다.

하지만 생성AI는 아직 초기 단계로, AI가 직면한 다양한 문제들을 해결하지 못했다. 편향성, 개인정보보호, 일관성, 책임 등이 바로 것이다. 

마크 베큐 옴디아 수석애널리스트는 "생성형AI 이니셔티브는 현재 AI가 직면하고 있는 편견, 개인정보보호, 책임, 일관성, 설명 가능성 등 근본적인 과제를 해결하지 못할 뿐 아니라 오히려 발생한 문제들을 굉장히 복잡하게 할 수 있다"고 지적했다.

실제로 생성AI의 원천인 초거대언어모델(LLM)은 인종, 성별, 성적 지향성, 능력, 언어, 문화 등에 대한 유해 언어, 혹은 편향된 콘텐츠 등을 포함할 수 있는 공공 데이터를 통해 훈련된 것이기 때문에 출력 결과 자체가 편향되거나 부적절할 수 있다.

또 다른 딥러닝 AI와 마찬가지로, 결과를 도출한 원천 자료를 쉽게 추적할 수 없기 때문에 생성형 AI 출력 결과를 명확히 설명하기도 쉽지 않다.

옴니아는 보고서를 통해 현재 생성AI를 ‘극초기 시장 단계’라고 정의하면서 생성AI에 대한 커다란 혼란에 더해 생성AI의 사용 방법에 대한 창의적인 혁신이 폭발적으로 늘어날 것으로 전망했다.