[AI, 선을 넘다③] '충격 녹취'도 '웨딩사진'도 조작?…★들 위협하는 AI (창간 19th)

AI가 만든 노래를 듣고, AI가 참여한 예능과 드라마를 보는 시대가 됐다. AI는 방송과 가요 등 콘텐츠 산업 전반에 빠르게 스며들며 새로운 시도를 가능하게 하고 있지만, 그 이면에는 창작자의 일자리와 저작권 문제부터 유명인의 목소리와 초상을 무단으로 활용한 허위·조작 콘텐츠까지 다양한 부작용이 뒤따른다. 창간 19주년을 맞은 엑스포츠뉴스는 연예계에 스며든 AI의 명과 암을 짚어봤다. [편집자주]

(엑스포츠뉴스 정민경 기자) 연예인에게 없던 사생활이 생겨나고 있다. 찍은 적 없는 사진이 공개되고, 한 적 없는 말이 목소리까지 입혀져 퍼진다. 인공지능(AI)이 만들어낸 '가짜'가 진짜의 영역을 파고들면서다.

과거 유명인을 둘러싼 허위 콘텐츠가 사진을 어설프게 합성하거나 사실과 다른 내용을 글로 퍼뜨리는 수준이었다면, 지금은 상황이 달라졌다.



▲ 사진 넘어 목소리까지…무너진 '진짜'의 경계

지난해 5월 가로세로연구소 김세의는 기자회견을 통해 고(故) 김새론의 음성이라고 주장하는 녹취록을 공개했다. 해당 녹취록은 김수현과 관련된 충격적인 내용으로 큰 파장을 일으켰다.

약 1년의 시간이 흐른 뒤 5월, 김수현 소속사 골드메달리스트는 "수사 결과, 가로세로연구소 측이 김수현 씨에 대해 제기한 각종 의혹과 증거는 사실이 아닌 것으로 확인됐다"는 입장을 내놨다. 특히 "고인의 음성 역시 AI 기술을 이용해 생성된 조작 자료인 것으로 확인됐다"고 밝혔다.

김세의 대표가 구속된 가운데, 사건을 둘러싼 법적 공방도 계속됐다.

목소리는 얼굴과 마찬가지로 개인을 특정하고 발언의 신빙성을 높이는 요소라는 점에서, 조작된 음성이 실제 발언으로 받아들여질 경우 당사자의 명예와 이미지에 상당한 피해를 끼칠 수 있다는 우려가 제기됐다.



실제로 존재하지 않는 결혼사진이 AI를 통해 만들어져 확산된 사례도 있다.

최근 소녀시대 티파니 영과 배우 변요한이 혼인신고를 마치고 법적 부부가 되면서, 두 사람의 웨딩사진으로 보이는 사진이 온라인상에 확산됐다.

사진에는 수트를 입은 변요한과 웨딩드레스를 입은 티파니, 그리고 소녀시대 멤버들이 함께한 모습이 담겼다.

그러나 해당 사진은 AI로 생성된 이미지였으며, 티파니 영과 변요한은 실제로 이러한 사진을 촬영한 적이 없는 것으로 확인됐다.



▲ 연예인 얼굴이 '사기 도구'로…일반인 피해까지 번졌다

AI 사칭으로 인한 일반인 피해자도 속출하고 있다. AI를 활용해 배우 이정재를 사칭한 뒤, 50대 여성에게 5억 원을 편취한 사건이 발생한 것.

이와 관련 이정재 소속사 아티스트컴퍼니 측은 "최근 당사 소속 배우를 사칭하여 금품을 요구, 금전적 이익을 취한 범죄가 발생해 언론을 통해 보도됐다"며 사기 피해 주의를 당부했다.

그런가 하면 지난 6월 이지혜는 자신의 모습이 담긴 광고 영상 캡처본을 공개하며 "제가 찍은 광고가 아닙니다"라고 강조했다.

이지혜가 공개한 사진 일부는 AI 딥페이크 기술로 제작된 영상이었다. 이지혜의 얼굴을 무단으로 활용해, 마치 이지혜가 해당 제품을 광고하거나 추천한 것처럼 꾸며 소비자들을 현혹한 것이다.



▲ 선 넘은 딥페이크…소속사도 칼 빼들었다

연예인을 겨냥한 딥페이크가 기승을 부리면서, 소속사들도 적극적인 대응에 나서고 있다.

SM엔터테인먼트는 에스파 카리나와 윈터의 딥페이크 영상물을 제작해 영리 목적으로 판매한 A씨가 징역 2년 6개월을 선고받았다고 밝혔다.

뉴진스 소속사 어도어 역시 악성 게시물 작성자들을 상대로 한 법적 대응 진행 상황을 알리며, 딥페이크 범죄에도 강경 대응을 이어가겠다는 입장을 밝혔다.

어도어는 "아티스트를 대상으로 한 딥페이크 범죄와 관련해서는 어떠한 경우에도 합의나 선처 없이 회사가 취할 수 있는 모든 법적 조치를 취하고 있다"며 "지난해 징역 3년의 실형을 선고받은 피고인이 항소했지만, 최근 항소심에서 기각됐다"고 전했다.

특히 여성 연예인을 대상으로 한 딥페이크는 단순한 허위 콘텐츠를 넘어 성적 대상화와 성희롱 등 또 다른 피해로 번질 수 있다는 점에서 문제의 심각성을 더한다.



▲ 정교해지는 AI…진위 판별은 누구의 몫인가

AI 기술이 발전할수록 가짜 콘텐츠를 만드는 문턱은 낮아지는 반면, 이를 접하는 이용자가 진위를 판별하기는 더욱 어려워지고 있다. 과거에는 어색한 얼굴이나 음성 등으로 합성 여부를 비교적 쉽게 짐작할 수 있었다면 이제는 실제 사진이나 목소리와 구별하기 어려운 수준의 결과물까지 만들어지고 있다.

그 과정에서 연예인들은 자신이 하지 않은 말과 행동을 해명해야 하는 상황에 놓인다. 존재하지 않았던 결혼사진이 '사생활'이 되고, 말한 적 없는 내용이 '녹취'가 되며, 얼굴과 이름은 자신도 모르는 사이 범죄에 이용될 수 있다는 것.

법무법인 존재 노종언 변호사는 "AI 기술의 발전 속도가 굉장히 빠르다. 특히 음성의 경우, 전문적인 디지털 분석을 거치지 않고 인간의 귀로만 진위를 구별하기 어려운 수준까지 왔다"고 짚었다.

이어 "허위사실에 의한 명예훼손의 경우, 기본적으로 내용이 허위라고 하더라도 이를 사실이라고 믿을 만한 정당하거나 상당한 이유가 인정되면 처벌되지 않을 수 있다. 허위 조작물을 최초로 제작한 사람은 당연히 법적 책임을 져야겠지만, 이를 접한 뒤 유포한 사람들에게까지 명예훼손의 책임을 물을 수 있는지는 앞으로 법정에서 치열하게 다퉈질 것으로 보인다"고 분석했다.



특히 노 변호사는 "일반인이 어떤 정보를 접했을 때, 어느 정도 수준까지 팩트 체크를 해야 하는지에 대해서는 아직 명확한 판례가 없다"며 "향후 상당한 법적 혼란이 예상된다. 그 과정에서 연예인들은 허위 콘텐츠로 인한 피해를 사실상 회복하기 어려운 위험에 노출될 수 있다고 생각한다"고 우려를 표했다.

이처럼 AI 조작물이 정교해질수록 연예인들이 마주하는 위험도 커지고 있다. 대중에게 얼굴과 목소리가 널리 알려진 연예인은 AI 악용의 표적이 되기 쉽다. 

특히 이미지와 신뢰도가 활동에 직접적인 영향을 미치는 만큼, 사실이 아닌 사진이나 음성이 광고와 작품 활동 등 연예 활동 전반에 영향을 미칠 가능성도 배제하기 어렵다.

AI 기술이 빠르게 발전하는 사이, 이를 둘러싼 법적 기준과 피해 구제 방식에 대한 고민도 깊어지고 있다. 

사진=엑스포츠뉴스 DB, 온라인 커뮤니티, JTBC

정민경 기자 sbeu3004@xportsnews.com