체크포인트가 ‘AI 시큐리티 리포트’를 발표했다. 이번 보고서에서 체크포인트는 사이버 범죄자들의 인공지능(AI) 무기화를 심층적으로 분석하고, 방어자들이 한 발 앞서 나가기 위한 전략적 인사이트를 제시했다.

AI 시대가 도래하면서 사이버범죄자들은 ​생성AI와 대규모언어모델(LLM)을 악용해 디지털 아이덴티티에 대한 신뢰를 허물고, 디지털 세계에서 진실과 거짓의 경계를 무너뜨리고 있다.

오늘날 AI 기반 사칭은 가장 정교한 아이덴티티 확인 시스템조차 우회하면서 누구든 대규모 사기의 잠재적 피해자가 될 수 있도록 하고 온라인에서 보고 듣고 읽는 것 모두 액면 그대로 믿을 수 없게 만든다.

로템 핀켈슈타인 체크포인트리서치 이사는 “사이버범죄자들의 AI 도입이 위협 환경을 재편하고 있다”며 “단순히 외형이나 음성이 유사한 것이 아니라, 인간의 사고와 행동을 모방할 수 있는 AI 기반 복제본의 위협은 먼 미래가 아니라 바로 코앞에 와 있다”고 강조했다.

체크포인트는 보안 실무자들이 당면한 현실로 ▲AI 기반 사칭과 정교한 피싱 공격 ▲AI 생성 이메일, 오디오, 딥페이크 영상 등에 기반한 고도화된 사칭 공격 ▲LLM 중독과 허위 정보 확산 등을 꼽았다.

또 프라우드GPT, 웜GPT 등 다크웹 AI 모델 상용화되고 있으며 공격자들은 맞춤형 LLM을 활용해 보안 우회·피싱·해킹 등에 적극 활용하면서 AI의 위험성을 높여 주의가 요구된다고 체크포인트는 경고했다.

학습 데이터에 대한 조작을 통해 AI의 오답 생성을 유도하는 사이버공격도 성행하고 있다. 일례로 최근 러시아 관련 챗봇이 33% 허위 응답을 반복한 사례가 발견됐는데, 이는 내부 챗봇이나 LLM 도입 시 데이터 신뢰성 확보·검증 체계 구축의 중요성과 시급성을 보여준다. 

체크포인트는 보고서에서 적대적인 공격 캠페인에 AI가 탑재돼 있음을 고려해 방어 전략과 체계를 수립해야 한다고 조언했다.

AI를 악용한 공격 캠페인을 방지하기 위해 체크포인트는 ▲AI가 생성한 피싱과 딥페이크 식별·실시간 대응이 가능한 AI 지원 탐지·위협 헌팅 ▲기존 OTP, 음성 인증에 더해 텍스트·영상·음성 동시 검증 기반을 강화하는 다중 AI 기반 아이덴티티 검증 체계 ▲LLM을 악용한 전술(TTPs)을 사전 식별·대응 체계와 같은 AI컨텍스트를 활용한 위협 인텔리전스 강화 등 AI 인식 사이버보안 프레임워크를 제시했다. 

핀켈슈타인은 “AI 중심 시대에 사이버 보안팀은 AI를 방어 시스템에 통합해 공격자의 속도에 발맞춰야 한다”며 “이번 보고서는 위험을 강조할 뿐만 아니라 AI 환경을 안전하고 책임감 있게 보호하기 위한 로드맵을 제시한다”고 말했다.