유명 배우 엠마 왓슨이 ‘딥페이크’ 기술로 인해 온라인 음란 광고에 등장하는 일이 빈번하게 발생하고 있습니다.
딥페이크는 영상에서 다른 사람의 얼굴을 합성하는 기술인데요. 최근 AI(인공지능) 등 IT 기술이 빠르게 발전하면서 더욱 정교해지고 있습니다.
8일(현지 시간) 미국 매체 NBC 뉴스에 따르면 최근 페이스북 등 SNS에서 떠도는 딥페이크 관련 애플리케이션 광고물에서 엠마 왓슨의 얼굴이 자주 등장하고 있습니다.
한 광고 영상을 보면 엠마 왓슨은 처음에 수줍게 웃다가 카메라 앞에 몸을 굽히며 야릇한 행동을 취합니다. 그리고 화면 상단에 “비디오에 아무 얼굴이나 합성해 보세요”라는 문구가 등장합니다.
이는 실제 엠마 왓슨이 아니라 딥페이크 기술로 영상 내 얼굴만 바꾼 것입니다.
i got this ad yesterday and wow what the hell pic.twitter.com/smGiR3MfMb
— lauren (@laurenbarton03) March 6, 2023
NBC 뉴스는 페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 엠마 왓슨을 닮은 것이었고, 다른 74개는 스칼릿 요한슨의 얼굴을 쓴 것으로 파악됐다고 전했습니다.
이런 딥페이크 영상의 문제점은 엠마 왓슨 같은 유명 연예인, 인플루언서, 심지어 미성년자까지 동의 없이 얼굴을 바꿔치기할 수 있다는 것입니다.
페이스북과 인스타그램 등 대부분의 플랫폼은 악의적으로 조작된 딥페이크 콘텐츠를 금지하고 있으나 NBC 뉴스가 검토한 앱들은 규제의 틈을 비집고 버젓이 활성화되고 있었습니다. 노골적인 성적 행동은 거르지만 미리 정해진 범주의 허점을 활용해 아슬아슬하게 옷을 입은 남녀의 동영상을 딥페이크 대상물로 삼은 것입니다.
실제로 문제의 딥페이크 앱은 지난 5~6일 이틀간 페이스북과 인스타그램 등에 230개 이상의 영상 광고를 내보낸 것으로 조사됐습니다.
NBC 뉴스는 실제로 문제의 앱을 사용해 딥페이크 기술을 적용했더니 1분도 채 되지 않은 시간 동안 영상 속 얼굴을 손쉽게 바꿀 수 있었다고 전했습니다.
2022년 개발된 문제의 앱은 애플 앱스토어에서 만 9세 이상만 되면 무료로 자유롭게 다운로드 받을 수 있었습니다. 문제의 앱 광고는 NBC 뉴스가 취재에 들어가자 대부분 삭제되고 있는 것으로 알려졌습니다.
관련해 메타 대변인은 “우리의 정책은 AI에 의한 것이든 그렇지 않은 것이든 간에 성인물을 금지하는 것”이라며 “우리는 이 페이지를 우리 플랫폼에서 광고하지 못하게 했다”라고 밝혔습니다.
애플 대변인은 “지적을 받고 앱스토어에서 문제의 앱을 삭제했다”며 “아직 딥페이크에 대한 구체적 규칙을 갖고 있지 않지만 명예훼손 등의 우려가 있는 음란물 콘텐츠가 포함된 앱은 금지하고 있다”고 밝혔습니다.
구글 플레이도 문제의 앱 등급을 올렸지만 취재가 시작된 이후 앱을 삭제했다고 밝혔습니다.
2019년 미디어 온라인 모니터 회사 딥트레이스의 조사에 따르면 온라인 딥페이크 소재의 96%가 음란물이었습니다.
딥페이크 기술이 더 정교해지는 상황에서 딥페이크 기술을 악용해 음란물 제작뿐 아니라 악의적으로 개인의 삶을 곤경에 빠뜨릴 수 있다는 우려의 목소리가 커지고 있습니다.
관련해 저널리즘을 전공하고 있는 로렌 버튼은 자신의 트위터에 “(딥페이크 앱으로 조작된 영상이) 누군가의 인생을 망칠 수도 있고, 곤경에 처할 수 있다”며 “앱을 사용하는 건 너무 쉽고, 무료다. 내 얼굴 사진을 업로드하기만 하면 50개의 무료 태블릿에 접근할 수 있었다”고 말했습니다.
그러면서 “이 앱은 고등학교에서 학교 폭력에 시달리는 이들에게 악용될 수 있다”며 “그건 누군가의 인생을 망치고 그들의 일자리까지 문제를 일으킬 수 있다”고 우려했습니다.
댓글