인공지능(AI) 시대가 도래했다. IT기업들은 시장 주도권 확보를 위해 AI 기술 개발과 적용을 서두르고 있으며 디지털혁신(DT) 가속화를 목표로 AI가 곳곳에 빠르게 침투하고 있는 것이다.

마이크로소프트(MS)와 구글은 업무용 소프트웨어 AI 활용을 확대하고 있으며, 다른 기업용 애플리케이션 기업들도 솔루션에 AI 기능 통합에 앞다퉈 나서고 있다. 이뿐만이 아니다. AI PC, AI 스마트폰 등 사용자 기기에 AI를 탑재하는 온디바이스AI의 바람도 한층 강해지고 있다. 

이에 AI 반도체의 대표주자인 엔비디아의 주가는 가파른 우상향 곡선을 그리면서 시가총액 기준으로 전세계 3위의 상장 기업으로 올라섰다.

4년전 시총 순위 20위권 바깥에 위치했던 기업이 AI의 열풍 속에서 지난 1년간 약 1조달러 규모의 시총 상승을 이뤄내면서 가장 촉망받는 기업으로 발돋움한 엔비디아의 사례는 AI에 대한 급격한 기대와 현실 침투를 보여주는 대표적인 사례다.

물론 AI에 대한 높은 기대만큼 부작용에 대한 우려도 높다. 사이버 공격자의 AI 악용은 흔히 논의되는 AI의 그림자다. AI가 사이버공격에 대한 진입장벽을 낮추고, 더 정교한 공격을 수행하게 함으로써 보안 위기가 도래할 수 있다는 우려가 지속적으로 제기된다.

이와 더불어 AI 규제 공백도 우려된다. AI는 큰 변화를 불러오는 동인이지만 AI에 대한 규제는 존재하지 않는 상황이다. 즉 AI가 불러올 수 있는 갈등과 AI의 도래로 촉발할 수 있는 여러 문제들을 조율할 수 있는 제도적 틀이 마련되지 않은 상황이다. 

이에 따라 AI 규제의 필요성을 말하는 목소리는 계속 높아지고 있다. 소비자 단체들은 AI 시대 개인정보침해 등을 예방할 수 있는 관련 규제를 요구하고 있으며, 기업들도 규제 불확실성 제거를 위해 AI 관련 규제가 명확히 정립되기를 희망하고 있다. 이에 각국 정부는 올바른 AI 활용을 위한 법안 마련을 서두르고 있다. 

이는 미국 주 정부·의회에서 AI 법안 발의의 급격한 증가에서도 엿볼 수 있다. 기업소프트웨어연합(BSA)에 따르면, 미국 내 주 정부와 주 의회에서 발의된 AI 관련 법안이 2월 기준으로 400여개를 돌파했다.

지난해 초 발의된 AI 관련 법안이 70여개도 미치지 못했음을 고려하면, 6배 이상 급증한 수치로, 이는 AI의 빠른 침투와 이에 따른 규제 필요성의 증대를 보여주는 또다른 방증으로 볼 수 있다.

악시오스 보도에 따르면, 발의된 AI 법안이 가장 많은 주는 뉴욕주와 캘리포이니아주였다. 이들은 AI를 개발하는 IT기업, AI를 활용하려는 기업들이 다수 포진한 지역이다. 뉴욕주에서는 65개의 AI 관련 법안이, 캘리포니아주에서는 29개의 AI 법안이 발의됐다. 

뉴욕주, 캘리포니아주 외에도 테네시주, 일리노이주, 뉴저지주 등을 비롯해 대부분의 주에서 AI 법안이 논의되고 있으며 메릴랜드주와 매사추세츠주, 버지니아주, 워싱턴주는 지난달 AI 행정조치를 발표하면서 발빠른 대응에 나서고 있다. AI 법안이나 행정조치가 발의되지 않은 주는 앨라배마주와 와이오밍주가 유이하다.

이들 주에서 발의된 AI 법안의 대상은 편견·차별 금지부터 얼굴인식 기술과 같은 개인정보보호, 딥페이크, 저작권까지 다양한 내용을 담고 있다.

일례로 사우스다코타주는 아동 성 학대와 관련해 AI로 이미지를 생성·배포·소유자를 징역형을 선고하는 법안이 제정됐으며, 캘리포니아주에서는 AI 모델에 대한 라이선스 법안이 제정됐다.

테네시주의 경우에는 지역 음악 산업의 저작권 우려에 의해 주도되는 유사음성·이미지보안법이 추진되고 있다. 

다양한 법안이 논의·제정되고 있지만 규제 논의가 집중되는 분야는 딥페이크 부분이다. 실제 사람의 얼굴을 합성해 진짜와 혼동되는 영상을 만들 수 있는 딥페이크는 악용의 가능성과 파급 효과가 커 논의가 집중되는 모습이다. 

악시오스는 최근 미국 주 정부·외회에 발의되는 AI 법안의 절반 가량이 딥페이크와 관련된 규제로 집계하고 있다.

국내에서도 딥페이크의 악용 우려가 급부상하고 있다. 특히 국회의원 총선거라는 대형 정치 이벤트를 앞둔 시점에서 딥페이크가 정치적 목적에 의해 악용 가능성이 크다고 지목되면서 딥페이크 규제에 대한 목소리가 높아지는 상황이다.

유럽연합(EU)의 경우, 2026년부터 AI로 만든 이미지와 영상물에 AI 생성 표시 의무화가 발표하는 등 AI 딥페이크에 대한 경계 수위를 높이고있다. 

AI 규제 논의는 급물살을 타고 있지만 실질 법안으로 제정되는 숫자는 아직 미미하다. 미국의 경우, 지난해 여름부터 주 정부 단위의 AI 규제 논의가 불거져 법안 발의가 폭발적으로 늘었으나 실제 법 제정까지 연결된 경우는 10여개에 불과한 상황이다. 연방정부 차원의 AI 규제 법안 마련도 아직까지 큰 진전을 보지 못하고 있다.

AI 규제와 관련해 유의미한 법안을 내놓은 것은 EU다. EU는 지난해 안면인식 기술 사용을 금지하고, 생성AI 학습에 사용된 자료 출처를 공개를 명시한 AI 규제 법안을 제정했다. 

EU의 AI 규제법은 AI가 초래할 수 있는 위험에 따라 규제 단계를 구분하고, 각 위험 단계마다 AI 기업에게 의무를 부과하고, AI 투명성 강화를 원칙으로 세부 사항이 마련됐다.

위반 시에는 최대 3,500유로(약 500억원), 또는 글로벌 매출의 7%에 해당하는 벌금이 부과될 수 있는 처벌 규정을 포함하고 있다. 이 법안은 2년의 유예기간 후 2026년부터 본격 발효된다. 

EU AI법은 AI에 대한 사회적 신뢰를 높이고 법적 안정성을 확보할 수 있는 진전으로 평가된다. 하지만 이는 AI 논의의 시작점으로도 평가된다. 어떻게 AI의 위험 수준과 대응 조치의 적절성을 평가할 것인가의 문제가 남아 있는 것이다.

EU의 AI법은 위험성에 대해 제3자 전문기관의 평가를 제시했지만, 적합한 제3자 기관이 존재하지 않는 경우, 공급자의 자체평가로 대체할 수 있도록 했다. 

한편, 구글과 오픈AI, 마이크로소프트(MS), 메타(페이스북), 틱톡, X(트위터) 등 빅테크 기업들은 이달 딥페이크에 꼬리표(워터마크)를 붙이기로 합의했다.

뮌헨기술협약이라고 불리는 이번 합의는 사용자를 속일 수 있는 AI 콘텐츠를 업계 내에서 자체적으로 통제함으로써 강력한 AI 규제안 등장을 방지하겠다는 선인 대응 차원으로 해석된다.