국내 연구진이 자체 개발한 테스트 프레임워크(Lower Layer Fuzz, LLFuzz)를 통해 스마트폰 통신 모뎀 하위계층의 보안 취약점을 발견하고 이동통신 모뎀 보안 테스팅의 표준화 필요성을 입증했다.

카이스트(KAIST)는 25일 전기및전자공학부 김용대 교수팀이 경희대 박철준 교수팀과 공동연구를 통해 스마트폰의 통신 모뎀 하위 계층에서 단 하나의 조작된 무선 패킷만으로도 스마트폰의 통신을 마비시킬 수 있는 심각한 보안 취약점을 발견했다고 밝혔다.

연구팀은 자체 개발한 LLFuzz(Lower Layer Fuzz) 분석 프레임워크를 활용해 모뎀의 하위계층 상태 전이 및 오류 처리 로직을 분석하고 보안 취약점을 탐지했다. LLFuzz는 3GPP 표준 기반 상태 기계와 실제 단말 반응을 비교 분석함으로써 구현상의 오류로 인한 취약점을 정밀하게 추출할 수 있다고 연구팀은 설명했다.

연구팀은 애플, 삼성전자, 구글, 샤오미 등 글로벌 제조사의 상용 스마트폰 15종을 대상으로 실험을 수행한 결과 총 11개의 취약점을 발견했다.

이 중 7개는 공식 CVE(Common Vulnerabilities and Exposures, 일반적인 취약점 및 노출) 번호를 부여받고 제조사는 이 취약점에 대한 보안패치를 적용했다. 나머지 4개는 아직 공개되지 않은 상태다.

기존 보안 연구들이 주로 네트워크 액세스 계층(Network Access Stratum, NAS)와 무선 자원 제어(Radio Resource Control, RRC) 등 이동통신 상위계층에 집중됐다면 연구팀은 제조사들이 소홀히 다뤄온 이동통신 하위계층의 오류 처리 로직을 집중적으로 분석했다. 

해당 취약점은 통신 모뎀 내 자원 할당, 오류 제어, 암호화 등을 담당하는 하위계층(RLC/MAC/PDCP/PHY)에서 발생했다. 이들 영역은 암호화나 인증이 적용되지 않는 구조적 특성 때문에 외부 신호 주입만으로도 동작 오류가 유발될 수 있었다.

연구팀은 실험용 노트북에 생성된 패킷을 소프트웨어정의라디오(SDR) 기기를 통해 상용 스마트폰에 조작된 무선 패킷(Malformed MAC Packet)을 주입하자 스마트폰의 통신 모뎀(Baseband)이 즉시 멈추는(Crash)는 영상도 공개했다.

이 영상에서는 초당 23MB의 데이터를 정상적으로 전송하다가 조작된 패킷이 주입된 직후 전송이 중단되고 마지막에는 이동통신 신호가 완전히 사라지는 장면이 포착된다. 단 하나의 무선 패킷만으로 상용 기기의 통신 모뎀을 마비시킬 수 있음을 확인한 것이다.

취약점은 스마트폰의 핵심 부품인 모뎀 칩에서 발견됐다. 모뎀 칩은 전화나 문자, 데이터 통신 등을 담당하는 아주 중요한 부품으로 퀄컴, 미디어텍, 삼성전자, 애플 등 다양한 제조사의 모뎀 칩에서 취약점이 발견됐다.

모뎀 칩은 프리미엄 스마트폰 뿐 아니라 저가형 스마트폰, 태블릿, 스마트워치, IoT 기기 등 탑재가 확장되고 있어 취약점으로 인한 사용자 피해 가능성도 광범위하다.

아울러 연구팀은 시험적으로 5G 취약점 또한 하위계층에 대해 테스트해 2주 만에 2개의 취약점을 찾았다.

5G에 대한 취약점 검사가 전반적으로 진행되지 않았던 것을 고려하면 베이스밴드 칩의 이동통신 하위계층에는 훨씬 더 많은 취약점이 존재할 수 있다는 것이 연구팀의 설명이다.

김용대 교수는 “스마트폰 통신 모뎀의 하위계층은 암호화나 인증이 적용되지 않아 외부에서 임의의 신호를 전송해도 단말기가 이를 수용할 수 있는 구조적 위험이 존재한다”며 “이번 연구는 스마트폰 등 IoT 기기의 이동통신 모뎀 보안 테스팅의 표준화 필요성을 입증한 사례”라고 말했다.

연구팀은 LLFuzz를 활용해 5G 하위계층에 대한 추가적인 분석을 이어가고 있으며 LTE 및 5G 상위 계층 테스트를 위한 도구 개발 또한 진행 중이다. 향후 도구 공개를 위한 협업도 추진할 계획이다.

과학기술정보통신부의 재원으로 정보통신기획평가원의 지원을 받고 전기및전자공학부 박사과정 투안 딘 호앙 학생이 제1 저자로 참여한 이번 연구 결과는 사이버보안 분야 세계 최고 권위 학회 중 하나인 ‘유즈닉스 시큐리티(USENIX Security) 2025’에서 내달 발표될 예정이다.