오세훈 “딥페이크 삭제 주체 지자체로 확대해야”

딥페이크 디지털성범죄 예방·대응책 토론회 참석
남녀 가리지 않고 피해자 생겨…"제도적 장치 필요"

오세훈 서울시장이 3일 서울 여의도 국회 의원회관에서 열린 '딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책토론회'에 참석해 발언하고 있다. /정재훈 기자

오세훈 서울시장이 딥페이크 성범죄에 대한 불안이 연일 확산되는 가운데 삭제 지원의 주체를 국가에서 지방자치단체로 확대하는 법령 개정을 촉구했다.

오 시장은 3일 오전 국회 의원회관에서 열린 '딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책 토론회'에 참여해 "최근 인공지능으로 특정 인물의 얼굴에 음란물을 합성한 딥페이크 영상이 생성·유포되면서 남녀 가리지 않고 피해자들이 생겨나고 있다"며 이같이 말했다.

딥페이크 성범죄는 기술이 발달함에 따라 음란 영상과 사진에 타인의 얼굴을 교묘하게 합성하는 범죄다. 최근에는 사회관계망서비스(SNS)를 통해 중·고등학생을 대상으로 횡행하고 있다.

이날 토론회에는 오 시장을 비롯해 조은희 의원, 신보라 한국여성인권진흥원장, 이수정 경기대 범죄심리학과 교수, 함영욱 경찰청 사이버범죄수사과 과장 등이 참석했다.

오 시장은 "지난 며칠간 딥페이크 디지털성범죄 관련 소식과 기사 접하면서 참담한 심정이었다"며 "전국적으로 피해 학교가 400~500개 정도 될 것으로 추산하고 있지만 디지털의 특성상 피해자가 피해 사실을 모르는 경우가 많다는 점을 고려하면 정확한 피해 규모를 추산하는 것조차 어렵다"고 했다.

이어 그는 "딥페이크 영상은 제작부터 단 7초밖에 걸리지 않고 너무나 쉽게 가동할 수 있는 구조 때문에 누구나 피해자가 될 수 있다"며 "시에서도 딥페이크 피해 영상물을 삭제 지원할 수 있는 제도적 장치가 필요한 만큼 삭제 지원의 주체를 국가에서 지자체로 확대하는 법령 개적을 조속히 해주시길 부탁한다"고 말했다.

앞서 시는 디지털 성범죄의 심각성을 선제적으로 인지하고 지난 2022년부터 '디지털성범죄 안심지원센터'를 개관해 영상 삭제 지원부터 피해자 지원까지 원스톱서비스를 제공하고 있다. 또 시는 지난 8월 지자체 최초로 방송통신심의위원회와 협력해 피해 영상물을 24시간 삭제 지원하는 핫라인 시스템을 가동 중이다.

시는 이달부터 초·중·고등학교 50개 학급 1000명을 대상으로 딥페이크 예방교육을 운영하고, 재발 방지를 위해 가해자 상담·교육을 함께 추진한다.

올 연말까지 검색부터 신고까지 전 과정을 인공지능(AI)이 실시하는 시스템을 구축할 예정이며, 내년 상반기까지 피해자 얼굴 사진과 유사도·정확도가 높은 영상을 검출하는 AI 얼굴매칭 딥페이크 검출기술인 '서울 안심 아이'를 개발할 계획이다.

오 시장은 "지금도 피해 사실로 고통받고 있거나 나도 혹시 피해자가 아닐지 불안해하는 분들이 많이 계시리라고 생각한다"며 "앞으로도 시는 빅데이크 피해자 보호와 지원을 위해서 할 수 있는 모든 노력을 다하겠다"고 말했다.

오세훈 서울시장(아랫줄 오른쪽 세번째)이 3일 서울 여의도 국회 의원회관에서 열린 '딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책토론회'에서 참석자들과 기념촬영을 하고 있다. /정재훈 기자