AI 안전성·신뢰성 확보…ETRI ‘AI안전컨소시엄’ 활동 본격화

인공지능(AI) 기술의 전 산업 활성화를 견인하고 우리 일상에 확산시키기 위한 노력이 범국가적으로 이뤄지고 있다. 최근 정부가 발족한 국가AI전략위원회 등을 통해 AI 3대 강국을 위한 전략 수립과 이행이 본격화되는 상황에서, AI 확산의 전제조건으로 요구되는 것이 AI의 안전성 확보다.

한국전자통신연구원(ETRI) 인공지능안전연구소(AISI)는 지난 11월 개소 후 정부와 함께 국내 AI 안전 확보를 위한 대표 전담연구 조직으로 활동해왔다.

특히, 독자 AI파운데이션 모델의 안전성·신뢰성 평가 역할 수임과 국제 AI 안전 네트워크에서의 공동 안전 평가 수행 등 국내외를 가리지 않고 AI 안전성 확보 노력을 기울여 왔다.

AISI는 1일 그랜드 인터컨티넨탈 서울 파르나스에서 국내 AI 안전 관련 전문가가 참여한 가운데 AI 안전컨소시엄 합동회의를 개최한다.

이날 회의에서는 ▲AI안전연구소 주요 추진 현황 및 성과의 공유 ▲AI안전컨소시엄의 운영체계의 확정 및 분과별 의제에 대한 심도 있는 논의가 이뤄질 전망이다.

국내외 AI 안전성 확보를 선도하는 과정에서 중요한 점은 국내 AI 주요 기업 및 기관들과의 교류와 역량 확산, 국내 AI 안전성 확보·확산을 위한 담론 형성이다. 이를 위해 AISI는 개소와 함께 24개 기업·기관으로 구성된 AI안전컨소시엄을 구축한 바 있다. 

AI안전컨소시엄은 AISI의 연구성과 확산·공유, 정책 방향의 설정과 공동 논의, 안전 평가 방안의 마련 및 공동 수행 등 국내 AI 안전 논의의 구심점으로, 정부에 시의적절한 정책 제안과 거버넌스 정립에의 기여 역시 목표로 한다.

이미 AI안전 연구를 수행 중인 미국(Center for AI Standard and Innovation)과 일본(AI Safety Institute) 역시 민간 기업·기관을 중심으로 AI안전 논의를 위한 컨소시엄을 구성, AI안전 분야 주요 연구·평가 이슈를 논의하며 자국 내 AI안전 역량을 극대화하고 확산하는 것이 목적이다.

AI안전컨소시엄은 효율적이고 효과적인 논의를 위해 3개 분과로 운영되고 있다. 정책 분과는 국내외를 둘러싼 AI 안전 정책 전반에 걸쳐 논의하고 평가 분과는 글로벌 AI안전 평가 사례를 공유해 실제 AI 안전 평가 수행을 위한 방안을 모색하고 있다.

연구 분과에서는 AISI가 수행 중인 연구 이슈를 중심으로 연구성과의 연계·확산 방안을 논의한다. 

이날 회의에서는 AISI의 그간 활동과 성과를 공식적으로 공유하고 분과별 안건에 대한 심도 있는 논의를 이어갈 계획이다. 논의의 확산을 위해 멤버 추가도 적극 고려 중이다. 

회의에서는 AI안전컨소시엄의 운영 규정과 실행위원회 운영 방안도 공유할 계획이다. 올해 중으로 적절한 추가 멤버 합류 절차를 최종 마련함으로써 역량 있는 기업 및 기관들의 참여와 기여를 적극 유도한다는 목표다.

ETRI 김명주 인공지능안전연구소장은 “AI안전은 기술 혁신을 뒷받침하는 기반이자 글로벌 경쟁력을 결정짓는 핵심 기술 요소인 만큼 반드시 확보해야 하는 필수재”라며, “AISI가 중심이 돼 정책과 평가, 연구를 수행하고 국내 산업계를 지원하는 만큼 이를 효율적으로 확산하고 담론을 형성하는 구심점으로서 활동을 적극 확대해 나가겠다”고 밝혔다.