딥페이크 등 각종 범죄 악용 가능성도
매일일보 = 김명현 기자 | 생성형 인공지능(AI)이 산업계와 일상에 빠르게 침투하면서 'AI 윤리'를 둘러싼 문제가 부각되고 있다. 그러나 AI 규범화‧표준화에 따른 이해관계가 상충되면서 해법 마련이 녹록지 않은 실정이다.
19일 업계에 따르면 법이 AI 진화를 따라가지 못하면서 AI를 둘러싼 잡음이 끊이질 않고 있다. 특히 생성형AI의 안정성 문제가 도마에 오르고 있다. AI 윤리를 다루는 전문가들은 현 상황을 '윤리적 진공상태'로 보고 있다.
저작권 침해 문제가 대표적이다. 최근 AI 모델 평가 업체 패트로너스 AI는 오픈AI의 최신 대규모 언어 모델(LLM) 'GPT-4'가 저작권 보호에 가장 취약하다는 연구 결과를 내기도 했다. 오픈AI는 생성형AI '챗GPT' 개발사다.
또 오픈AI를 상대로 제기된 소송도 급증하고 있다. 소송 쟁점은 AI 자료 학습부터 오픈소스 공개까지 전방위 확산 중이다. 앞서 일론 머스크 테슬라 최고경영자(CEO)는 지난달 말 오픈AI 법인과 창립자 샘 올트먼을 상대로 영리사업 중단, AI 기술공개 등을 청구하는 소송을 제기했다.
국내에서도 'AI 커버곡' 열풍으로 혼란이 가중되고 있다. 최근 유튜브 등에서 AI 딥페이크 기술을 통해 만들어진 커버곡 영상이 퍼지고 있는데, 일각에서는 선거 등 기술 악용 확산을 우려한다.
딥페이크는 AI로 만든 영상, 이미지 등의 가짜 콘텐츠를 뜻한다. 최근 윤석열 대통령이 "윤석열은 대한민국을 망치고 국민을 고통에 빠뜨렸습니다"라고 말하는 허위 영상이 온라인상에 확산되기도 했다.
제도적 미비는 이러한 우려를 증폭시키고 있다. 현재 법적으로 딥페이크 기술이 활용된 콘텐츠임을 표시할 의무는 없다. 국내 AI 관련 법안 10여개도 모두 국회에 계류된 상태다.
특히 AI 규범화‧표준화 작업이 녹록지 않을 것이란 관측이 지배적이다. 창작자와 산업계 간 이해관계가 정면으로 배치되기 때문이다. AI의 규범화는 불가피한 규제를 낳고 산업 발전 저해로 이어질 수 있다는 지적이 AI 윤리 강화 요구와 맞서고 있다.
이러한 상황에서 문체부는 지난달 저작권 학계와 법조계, 산업계 등의 전문가 16명으로 구성된 'AI-저작권 제도개선 워킹그룹'을 꾸렸다. 오는 12월 워킹그룹 논의 결과를 담은 종합대책 연구보고서를 낸다는 계획이다. 보고서를 토대로 늦어도 내년부터 저작권 법제 개선안을 추진한다는 방침이다.
좌우명 : 내일 지구가 멸망할지라도 오늘 한 그루의 사과나무를 심겠다.