SBS Biz

수도권의 한 대학생들이 텔레그램 대화방에서 여대생을 대상으로 딥페이크물을 제작·유포한 사례를 시작으로 디지털 성범죄가 연이어 수면 위로 드러나고 있습니다.

딥페이크는 인공지능(AI)으로 사람 이미지를 다른 영상물에 합성시켜 제작한 것을 의미하는데, 텔레그램 등 SNS에서 얼굴 사진에 음란물을 합성해 유포하는 딥페이크 성범죄가 확산되고 있습니다.

잇따른 딥페이크 피해 사례…알고 보면 주위에 있는 가해자
최근 직장 동료를 비롯한 지인 20여명의 얼굴 사진으로 딥페이크 성착취물을 만들고 다른 성착취물과 교환을 한 사례가 나타났습니다.

30대 A씨는 지난해 12월부터 올해 7월까지 텔레그램 AI 합성 프로그램을 통해 지인 24명의 얼굴 사진을 합성해서 딥페이크 성착취물 128개를 제작한 것으로 알려졌습니다.

피해자 중에는 직장 동료와 학교 동문 등 지인과 고등학생인 미성년자도 포함돼 있으며 가족도 있는 걸로 밝혀졌습니다.

A씨는 지난달까지 텔레그램에 교환방을 개설해 운영했는데 여기서는 아동과 청소년 성착취물을 150여개를 유포하고 성착취물 9천여개를 수집한 것으로 전해졌습니다.

방송통신심의위원회는 올해 1월부터 7월까지 성적 허위 영상물 6천434건에 시정을 요구한 바 있지만, 딥페이크 특성상 피해자가 관련 사실을 인지하지 못해 신고로 이어지지 않는 경우가 있어 본격적인 조사가 시작되면 피해 사례는 크게 늘어날 전망입니다.

'딥페이크 성범죄' 확산세에 법안 논의 촉각
정치권에서도 딥페이크 성범죄와 관련해 입법 논의를 진행하고 있습니다.

국민의힘 딥페이크 디지털 성범죄 대응 특별위원회는 지난 11일 1차 회의를 열고, 딥페이크를 활용한 성착취물을 소지하거나 2차 가해 행위가 이뤄졌을 경우에 대한 처벌 방안을 마련하기로 했습니다. 

안철수 특위위원장은 "정부가 빠른 시간 내 신고하고 삭제하는 자동시스템을 만들어야 한다"면서 "성범죄 유통 플랫폼에 대한 대책이 필요하고 텔레그램을 방치해서는 안 된다"고도 강조했습니다.

더불어민주당은 지난 11일 딥페이크성범죄·디지털성폭력근절대책 특별위원회를 구성했습니다. 1차 회의를 통해, 딥페이크 영상물의 처벌 범위를 넓히고 범죄수익을 반드시 몰수·추징하게 하는 성폭력처벌법 개정과 2차 피해 확산을 막는 성폭력방지법 개정, 통신서비스 제공자 책임을 강화하는 정보통신망법 개정을 이달에 추진하기로 했습니다.

지난 21대 국회에서 딥페이크 범죄 예방·처벌 관련 법안이 무산됐는데, 이번 국회에서는 잇따라 발의되는 딥페이크 성범죄 관련 법안이 통과될지 관심사입니다.

불안함에 '디지털장의사' 찾는 개인들
딥페이크 영상이 온라인에서 빠르게 확산되는 속도를 수사 기관의 조치가 따라잡기 힘든 만큼, 피해자들은 불안에 떨 수 밖에 없습니다.

피해자들은 온라인에 올라온 개인정보를 삭제해주는 '디지털장의사'를 찾기도 하는데, 디지털장의사로 일하는 김호진 산타크루즈컴퍼니 대표는 일주일에 10건 이하였던 의뢰가 최근 30건 이상으로 늘었다고 밝혔습니다.

김 대표는 "문의 대부분은 10대 초반이고, 가해자를 잡고 보면 지인인 경우가 대부분"이라며 "SNS에 정면으로 나온 얼굴 사진을 올리지 말라"고 당부했습니다. 김 대표는 청소년을 대상으로 무료로 개인정보 삭제를 지원합니다.

기업, 딥페이크 영상 구별 기술 개발
기업들도 딥페이크 영상을 구별할 수 있는 기술을 잇따라 내놓고 있습니다.

중국 기업 아너는 최근 폴더블폰 '매직 V3'를 공개했는데, 영상의 딥페이크 여부를 탐지하고 위험을 경고하는 기술을 탑재했습니다.

미국 기업 인텔은 2022년 말, 얼굴에서 혈류를 탐지해 딥페이크 여부를 판단하는 기술인 '페이크캐처'를 개발했습니다.

심장이 수축하면서 피를 내보낼 때 혈관의 색깔이 바뀌는 현상을 활용했는데, 혈관에 빛이 흡수되거나 반사되는 양을 측정하면서 변화를 감지합니다.