소프트프릭이 인공지능(AI) 모델에서 발생하는 프라이버시 취약점을 체계적으로 진단하고 방어 조치까지 자동화하는 핵심 기술 5건에 대한 특허를 출원했다고 23일 밝혔다. 

이번 출원 기술은 생성AI 모델이 프라이버시 정보를 학습에 활용했는지, 모델의 응답 과정에서 민감 정보가 노출될 가능성은 없는지, 악의적 프롬프트 기반 공격으로 유출 위험이 발생하는지 등을 선제적으로 진단·예방하는 기술이다.

소프트프릭은 “이를 통해 AI 활용 과정에서 발생할 수 있는 개인정보 및 민감 정보 유출을 사전에 차단하는 것이 가능해진다”고 설명했다.

최근 생성AI 확산과 함께 학습 데이터·응답 생성 단계의 프라이버시 위험이 급증하면서 AI 보안 시장에서는 개인정보 보호를 위한 선제적 대응의 중요성이 커지고 있다. 소프트프릭은 이번 기술 출원이 AI 전반의 개인정보 유출을 차단하는 ‘예방 중심의 보안 체계’ 구축에 결정적인 역할을 하게 될 것으로 기대했다.

소프트프릭이 출원한 특허는 ▲인공지능 모델의 프라이버시 취약점 진단 시스템 및 방법 ▲프라이버시 취약점 진단을 위한 프롬프트 자동 생성 방법 ▲프라이버시 취약점 진단을 위한 멤버십 추론 공격 방법 ▲프라이버시 취약점 진단을 위한 멀티모달 공격 방법 ▲프라이버시 취약점 진단을 위한 공격 자동화 방법 등 총 5건이다.

이들 기술은 생성형 모델과 이미지·텍스트 멀티모달 모델 등 다양한 AI 모델을 대상으로 내부 정보 노출, 학습 데이터 유출 위험도, 악의적 프롬프트 공격 가능성 등을 종합적으로 평가할 수 있는 기반을 제공한다. 

특히 프롬프트 자동 생성, 멤버십 추론, 멀티모달 공격 등 고도화된 공격 시나리오를 자동화해 실제 운영 환경에서 AI 모델의 취약점을 신속하고 정확하게 분석할 수 있다는 게 소프트프릭의 설명이다.

김동철 소프트프릭 대표는 “AI 모델이 개인식별정보와 민감 정보를 포함할 위험이 기하급수적으로 커지고 있어 프라이버시 보호는 이제 AI시대의 가장 중요한 안전 기준이 됐다”며 “이번 특허 출원으로 API 보안을 넘어 AI 보안 영역에서 독자적인 기술 경쟁력을 확보했다”고 말했다.

소프트프릭은 이번 특허를 기반으로 AI 프라이버시 진단 솔루션 고도화와 보안 자동화 기술 개발을 이어가며 생성AI 도입이 확대되는 산업 전반에서 보안 리스크를 최소화하는 데 속도를 낼 계획이다.