[IT비즈뉴스 김진수 기자] 한국정보화진흥원(NIA)이 공공기관 인공지능(AI) 시스템의 부작용을 최소화하고 신뢰받는 지능정보서비스를 구현하기 위한 지침서 ‘공공기관 신뢰가능 AI 구현 실용가이드’를 발간했다.

지능정보사회 도래로 AI가 일상 안에서 확산되면서 알고리즘과 데이터 편향에 따라 인권과 안전을 해치는 부작용도 발생하고 있다.

국제사회에서는 신뢰할 수 있는 AI를 만들기 위한 여러 원칙을 발표하고 있으며, 특히 OECD는 지난 5월 포용 성장, 사람 중심가치, 투명성, 안전성, 책임성의 5가지 원칙을 제시한 바 있다.

NIA는 국제적인 노력에 발맞춰 공공기관이 신뢰가능 AI를 구현하면서 원칙을 준수할 수 있도록 설계단계부터 적용돼야 할 세부 지침을 마련하게 됐다고 설명했다.

실용 가이드는 먼저 신뢰가능 AI에 대한 OECD 기본원칙을 설명하고 이러한 원칙이 구현된 시스템을 신뢰 가능 AI 시스템이라 정의하고 있으며, 신뢰가능 AI 원칙 준수를 위해 시스템 개발부터 운영까지 생애주기의 단계별, 책임자별로 세분화한 실행 지침을 담고 있다.

아울러 공공기관이 신뢰 가능 AI 구현을 위해 필요한 거버넌스 프레임워크(관리체계, 위험관리와 인간의 개입, 데이터 관리, 고객 의사소통)도 포함하고 있다.

NIA 문용식 원장은 “기업, 전문가, 이해관계자와 지속적으로 협력하여 보다 구체적인 실천방안을 마련하고 가이드 적용 우수사례를 담아 담당자들이 쉽게 따라할 수 있는 길잡이가 되도록 실용 가이드를 계속 보완하겠다”고 밝혔다.