“생성AI 활용과 확산, 공격자·보안팀 중 누가 유리할까?”

스플렁크가 '2024년 보안 현황 보고서'를 공개하고 인공지능(AI) 활용에서 사이버공격자와 보안팀의 경쟁이 심화되고 있다고 지적했다. 

14일 ‘AI 활용을 위한 경쟁’을 주제로 한 이 보고서에 따르면, 기업은 보안 영역에서 생성AI 도구를 적극적으로 채택하고 있다. 응답자의 91%가 보안팀에서 AI를 사용하고 있다고 답해 AI 활용이 확산되고 있음을 보여준 것이다.

특히 고급 접근 방식을 채택한 기업의 경우에는 상당한 예산, 리소스, 권한을 보유해 최첨단 생성AI 도구와 기술을 수용할 수 있는 유리한 위치를 점했다. 

하지만 다수의 기업이 명확한 AI 정책을 보유하지 않고 있으며, AI기술의 영향력에 대해 완전히 파악하지 못하는 모습을 나타냈다. 이에 더해 사이버공격자의 AI 활용도 증가해 사이버보안 담당자와 공격자 중 AI로 더 많은 이점을 가져갈 수 있는지를 확언하기 힘든 상황이다. 

스플렁크의 조사에서 응답자의 44%는 생성AI를 보안 분야의 최우선 이니셔티브로 꼽은 가운데 사이버보안 리더의 86%가 생성AI로 인재 격차 해소를 기대하고, 90%가 생성AI를 활용한 보안운영센터(SOC) 역량 강화를 기대하는 등 생성AI로 인한 보안 향상을 긍정적으로 전망했다.

다만, 사이버보안 분야에서의 AI 활용과 마찬가지로 사이버공격자들도 생성AI를 기반으로 사이버위협을 고도화하고 있어 이에 대한 우려도 크게 나타났다.

조사에서 응답자의 45%가 생성AI로 인한 공격자 유위를 경계한 반면, 43%는 생성AI가 사이버보안 담당자에게 우위를 제공할 것으로 기대하는 등 생성AI의 등장과 확산이 보안 분야에서 미치는 영향에 대한 의견이 팽팽하게 엇갈렸다.  

기업의 AI 활용이 확대됐지만 정책이 미비한 것으로 드러난 점도 우려된다. 93%는 자신이 속해 있는 조직이 비즈니스 전반에서 공개된 생성AI를 이미 사용하고 있다고 답한 가운데 34%가 생성AI 정책을 아직 수립하지 않았다고 답했다. 또 65%는 생성형 AI의 의미를 완전히 이해하지 못한다고 답했다.

패트릭 코프린 스플렁크 수석부사장은 “생성AI의 도입은 조직이 프로세스를 간소화하고 생산성을 향상시키며 직원의 업무 부담을 최소화할 수 있는 새로운 기회를 제공하지만 공격자들에게도 전례 없는 이점을 제공한다”며 “악의적인 공격자와 보안 전문가 모두 AI의 기회를 잡으려 하고 있어 보안 담당자는 공격자보다 AI 경쟁에서 앞서야 한다”고 조언했다.