계정 등록·접속 없이 텍스트 생성 가능, 시장 점유율 확대 일환 분석
공개 보류한 보이스 엔진 “AI 지평 확대 vs 딥페이크 공포 조성” 분분
이달부터 오픈AI가 개발한 생성형 인공지능(AI) 챗GPT를 계정 등록 없이도 사용할 수 있게 됐다.
오픈AI는 1일(현지시간) 자사 블로그에 “사람들이 AI의 혜택을 경험할 수 있도록 챗GPT와 같은 도구를 널리 활용할 수 있도록 하는 것이 우리 임무의 핵심”이라며 “오늘부터 가입 절차 없이도 챗GPT를 바로 사용할 수 있다”고 전했다.
오픈AI 설명에 따르면, 계정 등록이나 로그인 없이 사용하는 챗GPT는 일부 성능에 제한은 있으나 결과물에서의 차이는 없다.
계정을 만들거나 로그인을 할 경우에는 챗GPT에 남긴 채팅 기록을 저장·공유할 수 있고 음성 대화 기능도 사용할 수 있다.
이번 조치는 챗GPT에만 적용된다. 이미지를 생성하는 달리(DALL-E) 등 오픈AI가 개발한 타 AI 툴을 이용하려면 계정을 생성해야 한다.
챗GPT는 프롬프트(AI의 답변을 끌어내는 말)와 생성되는 답변을 차단하는 항목의 범위를 넓히는 등 추가적인 콘텐츠 보호조치도 도입했다고 전했으나, 이 조치가 무엇인지에 대해서는 구체적으로 언급하지 않았다.
관련 업계에서는 오픈AI의 이번 조치가 시장에서 다수의 업체가 챗GPT와 유사한 생성AI 툴을 출시하면서 관련 시장에서의 점유율 확보의 일환으로 보고 있다.
◆선거 앞두고 공개 보류한 ‘보이스 엔진’…공개 “신중히 판단”
오픈AI는 앞서 지난달 29일(현지시간) 사람의 음성을 학습해 모방한 음성을 생성하는 AI 툴 ‘보이스 엔진’을 공개한 바 있다.
지난해 말 신뢰할 수 있는 소규모 파트너(그룹)와 함께 비공개 테스트를 진행한 결과를 자사 블로그를 통해 공개한 것인데, 오픈AI는 약 15초 분량의 음성 샘플만 있으면 이 기술(보이스 엔진)을 활용해 원래 화자와 비슷한 음성을 구현할 수 있다고 소개했다.
오픈AI는 “2022년 말 보이스 엔진을 처음 개발했으며, 이를 챗GPT의 음성인식·읽어주기 기능과 텍스트-음성 변환 API에서 쓰이는 음성 기능 강화에 사용했다”고 했다.
다만 오픈AI는 “이 기능의 오용 가능성 문제로 광범위한 배포(출시)에 대해서는 조심스럽게 접근하고 있다”며 “이러한 대화와 소규모 테스트 결과를 통해 이 기능을 대규모로 배포할 지의 여부와 방법에 대해 고민하고 결정할 것”이라고 밝혔다.
뉴욕타임스(NYT)는 “이미지·영상 생성 툴과 마찬가지로 이 기능(보이스 엔진)은 소셜미디어(SNS)에서 허위정보를 퍼트리는 데 도움이 될 수 있다”고 전하며 “이 기능은 특히 선거가 있는 해(올해)에 위험할 수 있다”고 평가했다.
앞서 지난 1월 미국에서는 뉴햄프셔주 예비경선(프라이머리)을 하루 앞두고 조 바이든 대통령을 사칭한 가짜 전화가 주민들에게 걸려 와 투표 거부를 독려한 사건이 발생했다.
“당신의 투표가 이번 화요일(예비경선)이 아닌 11월에 변화를 가져온다”는 내용의 이 가짜 전화는 마치 민주당 임원이 보낸 것처럼 보이도록 조작됐다. 이후 미국 연방통신위원회(FCC)는 자동녹음 전화(로보콜)를 거는 것을 불법으로 규정한 바 있다.
블룸버그통신은 “오픈AI가 사람의 목소리를 흉내 낼 수 있는 기능을 공개하며 AI기술의 새로운 지평을 열었다”며 “이는 딥페이크 위험에 대한 불안감도 일으키고 있다”고 평가했다.
관련기사
- 카카오, 정신아 대표 정식 선임…AI 통합 조직 신설·R&D 역량 강화
- 반도체 산업계가 꼽은 매출 주도 핵심영역은 ‘자동차’
- 애플 WWDC, 6월10일 개최 확정…AI 전략 발표될까?
- 생성AI 취약점 찾는다…내달 11일 ‘생성형 AI 레드팀 챌린지’
- 온디바이스AI 품은 삼성 갤럭시S24, AI폰 잠재력 입증 ‘쾌조의 스타트’
- AI 규제안 앞다퉈 발의하는 美 주정부…관련 규제 논의 본격화
- “구글·메타에 이어 오픈AI도 생성AI 이미지에 라벨 붙인다”
- 일론 머스크 ‘X’, 딥페이크 확산에 “아동 성착취물 단속팀 신설한다”
- “AI기술 악용, 생체인증 우회”…올해 주목해야 할 보안 위협 키워드
- ‘양날의 칼’ 인공지능(AI), 지능형위협(APT) 확산으로 긴장감 고조