AWS, 자동 추론 검사 서비스 도입…“환각 현상·모호성 최소화”

아마존웹서비스(AWS)가 ‘자동 추론 검사 서비스’를 정식 출시했다. ‘아마존 베드록 가드레일’에 추가된 자동 추론 검사 서비스로, 인공지능(AI) 모델이 생성한 응답의 정확성을 수학적으로 검증함으로써 AI 환각 현상을 최소화할 수 있다는 게 사측 설명이다.

AWS에 따르면, 자동 추론 검사 서비스는 AI 응답의 응답의 정확성을 최대 99%까지 수학적으로 검증할 수 있어 응답의 모호성과 환각 현상을 최소화하고 비즈니스 규칙을 준수함을 보장받을 수 있다. 

통계적 샘플링이나 인간의 검토에 의존하는 기존 접근법과 달리 자동 추론 검사는 형식 검증 기법을 활용한다. 이는 10여년간 AWS 클라우드 인프라를 보호해 온 것과 동일한 수학적 방법으로 정의된 비즈니스 규칙과 도메인 지식에 따라 AI 출력 결과가 적합한지를 검증한다.

공식 출시된 자동 추론 검사 서비스는 최대 8만 토큰, 약 100페이지 분량의 문서를 한 번에 처리할 수 있어 방대한 정책 문서도 효과적으로 다룰 수 있고 사용자가 생성한 검증 테스트를 저장하고, 반복 실행할 수 있어 시간이 지나도 정책 유지·점검이 용이하다.

사용자정의 기반으로 테스트 시나리오를 자동으로 생성해 시간과 노력을 절약하면서 더 많은 경우의 수를 테스트할 수 있다고 AWS는 설명했다.

바이런 쿡 AWS 부사장은 “언어, 문법, 의미, 타당성, 건전성, 완전성, 계산 복잡성, 심지어 결정 불가능성과 같은 문제들은 이전에는 너무 학문적이고 모호해서 대중과는 거리가 멀었지만 이제 모든 것이 바뀌었다”며 "AWS는 자연어 번역, 사실의 정의, 확정적 추론에 대한 접근 방식을 지속적으로 개선해 왔다”고 말했다. 

아마존 베드록 가드레일의 자동 추론 검사는 현재 미국 동부(버지니아 북부, 오하이오), 미국 서부(오리건), 유럽(프랑크푸르트, 아일랜드, 파리) 등의 AWS 리전에서 제공되며, 아마존 베드록 콘솔과 파이썬용 AWS SDK를 통해 이용할 수 있다.