가트너가 인공지능(AI) 에이전트의 위험에 대해 경고했다. 사이버 범죄자들이 AI에이전트를 악용함으로써 계정탈취 공격과 같은 사이버공격의 위험도가 높아질 수 있다는 것이다. 

가트너에 따르면, AI에이전트로 사이버공격자는 딥페이크 기술을 악용한 사회공학적 공격부터 사용자 자격증명 악용의 종단간 자동화까지 더 많은 계정 탈취 단계를 자동화할 수 있다.

2027년까지 AI에이전트 악용으로 공격자의 계정탈취(ATO) 시간이 50% 줄어들게 된다는 것이 가트너의 예측이다. 

제레미 드호인 가트너 VP애널리스트는 “계정 탈취는 여전히 해커들의 주요 공격 수단”이라며, “데이터 유출, 피싱, 사회 공학, 멀웨어 등 다양한 방법으로 비밀번호를 수집한 해커들은 사용자가 여러 사이트에서 같은 비밀번호를 사용한다는 것을 염두하고 자동화 봇을 이용해 로그인을 시도한다”고 말했다.

계정 탈취와 더불어 가트너는 사회공학적 공격도 사이버보안에 중대한 위협이 될 것으로 전망했다.

2028년까지 사회공학적 공격의 40%가 기존 보다 광범위한 대상을 표적으로 진행된다는 예측으로, 현재 공격자들은 딥페이크 음성·영상과 같은 위조 현실 기술을 사회 공학 공격 기법과 결합해 정교한 공격을 시도하고 있다.

이러한 정교한 공격에 대해서는 몇몇 사례만 알려져 있지만, 피해 기업들은 막대한 재정적 손실을 입을 정도로 심각성이 매우 높은 것으로 알려진다.

더욱이 다양한 플랫폼에서 실시간으로 이뤄지는 개인 간 음성·영상 소통처럼 공격 표면이 넓은 경우에는 더욱 심각한 피해가 발생할 수 있는데, 이를 탐지하는 기술은 아직 초기 단계에 머물러 있어 시급한 과제로 떠오르고 있다.

이에 가트너는 AI에이전트가 관여하는 상호작용을 탐지, 모니터링, 분류할 수 있는 웹, 애플리케이션, API, 음성 채널이 필요하다고 언급했다. 

아키프 칸 가트너 VP애널리스트는 “진화하는 위협에 대응하기 위해 보안 리더는 비밀번호를 요구하지 않는 피싱 방지 다중인증(MFA)을 도입해야 한다”며 “사용자가 인증 옵션을 선택할 수 있는 경우에는 비밀번호 사용 체계에서 다중장치 패스키로의 전환을 유도·장려하는 교육과 인센티브를 제공해야 한다”고 조언했다.