클라우드플레어가 대규모언어모델(LLM)을 상대로 한 사이버공격을 식별하는 ‘인공지능(AI)용 방화벽’을 선보였다. 클라우드플레어의 글로벌 네트워크를 기반으로하는 AI용 방화벽은 고객 LLM 내에 있는 기능과 주요 데이터를 보호해 영업 비밀을 노리는 사이버공격에 대응할 수 있게 한다.

매튜 프린스 클라우드플레어 CEO 겸 공동창업자는 “새로운 유형의 애플리케이션이 등장하면 새로운 유형의 위협도 빠르게 뒤따르기 마련”이라며 “클라우드플레어는 AI용 방화벽을 통해 AI 모델을 위한 최초의 보호막 중 하나를 제공해 기술 발전이 선사하는 기회를 활용함과 동시에 보호받을 수 있도록 지원하고자 한다”고 말했다.

클라우드플레어가 최근 실시한 조사에 따르면, 기업의 최고 경영진 4명 중 1명만이 AI로 인한 위험에 대한 준비 상태를 확신한다고 답했다. LLM 보호는 사용자 상호작용을 제한이 불가능하기에 까다롭고, 동일한 입력 값이 주어져도 다양한 결과물을 생성할 수 있는 LLM의 특성도 보안 적용을 어렵게 한다. 

클라우드플레어의 AI용 방화벽은 기존 보안 플랫폼에 AI 애플리케이션 보호를 위한 새로운 레이어를 추가해 새로운 AI를 겨냥한 위협을 차단할 수 있도록 설계됐다.

AI용 방화벽은 클라우드플레어의 워커스AI에서 실행되는 모든 LLM 앞에 배포 가능하며, 사용자가 제출한 프롬프트를 스캔·평가해 모델을 악용하고 데이터를 추출하려는 시도를 식별·차단할 수 있다는 게 사측 설명이다.

클라우드플레어의 워커스AI에서 LLM을 실행하는 고객은 무료로 AI용 방화벽을 활용할 수 있다. 

클라우드플레어는 "이를 통해 프롬프트 주입, 데이터 유출 등의 AI 우려 사항을 사람의 개입 없이 방지할 수 있고, 엔드 유저와 가까운 곳에 배포되는 AI용 방화벽으로 남용 문제도 방지할 수 있다"고 설명했다.

가트너는 생성AI 애플리케이션의 경우 단독으로 보호가 어렵다고 지적한 바 있다. 가트너는 생성AI 보안을 위해서는 배포 전 생성AI 애플리케이션에 대한 전용 보안 제어 기능을 계획하고 클라우드와 데이터, 애플리케이션 보안의 견고한 기반이 반드시 마련돼야 한다고 조언했다.