기술의 진화 이면에는 새로운 사이버위협이라는 그림자가 따라다닌다. 오픈AI가 개발한 대화형 인공지능(AI)인 챗GPT(ChatGPT)가 강력한 성능으로 주목받았는데, 다크웹에서는 사이버 공격자들의 챗GPT 악용 시도가 이미 시도되고 있다는 보고가 나왔다.

11일 체크포인트리서치에 따르면, 다크웹에서는 AI챗봇인 챗GPT를 사용해 새로운 멀웨어나 암호화 스크립트 등을 제작하는 시도가 발견됐다. 챗GPT를 악용해 변종 멀웨어를 실험하거나 다계층 데이터 암호화 스크립트를 제작하는 등의 악성행위가 목격된 것이다. 

이외에도 오픈AI의 이미지 생성AI인 ‘달리2(Dall.E 2)’, 혹은 챗GPT를 온라인 사기에 이용할 수 있는 방법 등에 대한 토론 등도 확인됐다. 몇몇 다크웹 스레드는 공격 지식이 없는 사용자에게 기술적인 기초지식을 쌓게 하는 도구로 챗GPT를 악용하는 방법을 소개하기도 했다.

챗GPT를 악용해 제작된 것으로 추정되는 공격 툴이나 악용 방법 토론 등은 기초적이거나 낮은 수준에 머무르고 있다. 허나 중요한 점은 다크웹에서 활동하는 사이버 공격자들이 챗GPT에 관심을 보이기 시작했다는 점이다.

체크포인트리서치는 “챗GPT의 기능이 다크웹 참여자들이 선호하는 새로운 도구라고 단언하기는 아직 이르다”면서도, “사이버위협 행위자들이 (악용 방법의) 개선점을 찾아내는 것은 시간 문제”라고 경고했다.

강력한 AI가 생활의 편리함을 주지만 악의적 사용자에게도 편리성을 주는 것은 부인할 수 없다. 특히 챗GPT와 같은 초거대 사이버 공격 참여자를 쉽게 확대하고, 더 빠르게 새로운 공격 방법을 만들어 내 사이버위협 수준과 속도를 높일 수 있다는 우려가 나온다.

챗GPT로 생성된 암호화 도구는 작은 수정을 통해 쉽게 랜섬웨어로 변모할 수 있으며, 챗GPT의 사이버 공격 관련 답변은 멀웨어 공격이나 피싱공격을 쉽게 시작할 수있는 출발점을 제공할 수 있는 것이다.

초거대AI의 오·남용 방지, 악용사례에 대한 억제 방안에 대한 적극적인 논의가 요구되는 시점이다.