[외부칼럼] 또 발생한 딥페이크 성범죄, 해결 방법은?

전창배 국제인공지능윤리협회(IAAE) 이사장

최근 또다시 대규모로 발생한 딥페이크 성범죄가 사회에 충격을 주고 있다. 이번에도 '텔레그램'이 주요 범죄 수단으로 악용됐다. 텔레그램방에는 사진을 올리면 자동으로 나체 이미지로 변환해주는 제작 프로그램(봇)이 탑재돼 있어, 누구나 손쉽게 합성이미지를 만들어 공유하는 데 악용됐다.

일부 텔레그램방에서는 지인의 신상정보와 사진을 제공하면 저렴한 비용으로 딥페이크 성인물을 제작해 주겠다는 업자들도 활개를 치고 있었다. 특히 일부 텔레그램방의 규모가 20만 명에 달한다는 사실이 알려져, 이러한 범죄 행위에 대한 무감각한 현실을 보여주기도 했다.

더욱 충격적인 것은 딥페이크 텔레그램방이 각급 중고등학교와 대학교 이름별로 체계적으로 정리돼 있다는 점이다. 이는 딥페이크 성범죄가 단순한 호기심이나 장난이 아닌, 조직적으로 벌어지고 있음을 입증한다.

이러한 제보가 이어지자 각급 피해 학교와 교육청에서는 긴급하게 학생들에게 온라인 SNS 등에 게재된 사진이나 영상을 삭제하거나 비공개 처리하도록 공지했다.

2020년 6월에 '성범죄 처벌에 관한 특례법'이 개정되어 딥페이크 성범죄를 처벌하고 있음에도 불구하고, 이러한 범죄는 줄어들기는커녕 최근까지 꾸준히 증가하고 있는 추세다.

최근 언론 보도에 따르면, 방송통신심의위원회가 올해 1월부터 7월까지 성적 허위 영상물에 대해 총 6,434건의 시정 요구를 한 것으로 집계됐다. 이는 매달 900여 건 이상의 딥페이크 성범죄가 발생하고 있음을 의미한다.

그렇다면 딥페이크 성범죄 처벌법이 시행 중임에도 불구하고 이러한 범죄가 증가하는 이유는 무엇일까?

9월 9일 경찰청의 발표에 따르면, 특정된 텔레그램방 딥페이크 사건 피의자 중 75%가 10대, 21%가 20대로, 96% 이상이 10대~20대 청소년과 청년들이었다. 이전의 통계 자료도 이와 유사한 추세를 보여준다.

왜 이렇게 젊은 층이 딥페이크 성범죄에 취약한 것일까? 첫째, 10대~20대는 IT 기기에 익숙하고 AI 도구를 능숙하게 활용할 수 있는 역량이 뛰어나다. 일부가 이러한 능력을 잘못된 방향으로 악용하고 있는 것이다.

둘째, 디지털 기술과 AI 활용에 대한 윤리적 인식의 부족이다. AI의 개발과 활용에 대한 법적, 제도적 체계가 미비한 상황에서 AI의 윤리적인 개발과 활용이 매우 중요한데, 우리 청소년, 청년들의 '인공지능 윤리의식', '인공지능 윤리 리터러시'에 대한 인식이 매우 미흡한 실정이다.

셋째, 온라인 범죄 행위에 대한 경각심이 부족하다. 범죄의 중대성은 온라인과 오프라인을 가리지 않는다. 디지털 환경이 일상화된 현재, 온라인 상의 범죄 행위도 오프라인 못지않게 위험하며 그 피해가 막대할 수 있음을 인식해야 한다. 단순한 호기심에 장난삼아 딥페이크 성인물을 만들고 공유하는 것이 더 이상은 용서받을 수 없는 범죄 행위임을 인지해야 한다.

결국 딥페이크 성범죄 해결을 위해서는 강화된 법적 처벌, 딥페이크 탐지 기술 개발 등도 중요하지만, 가장 근본적으로는 청소년과 청년들을 대상으로 한 '인공지능 윤리의식'과 '인공지능 윤리 리터러시' 교육이 절실히 필요하다.

현재 초중고등학교와 대학교에서는 '인공지능 윤리 교육'이 체계적으로 이루어지지 않고 있다. 이런 상황에서 AI 기술을 악용하는 딥페이크 성범죄가 줄어들기를 기대하는 것은 어불성설이다.

내년부터 초중고교에 '인공지능 교육'이 의무화되지만, '인공지능 윤리 교육'은 전체 내용 중 일부로만 다뤄진다. 인공지능 '기술'보다 중요한 것이 이 기술을 안전하게 만들고 올바르게 활용하기 위한 '윤리'인데, 이를 독립된 교과목으로 다루지 않는 점은 아쉬움이 크다.

아울러 대학교나 AI 대학원에서도 '인공지능 윤리' 교과목을 미국 MIT나 스탠포드 대학처럼 필수 과목으로 지정하여 모든 학생들이 반드시 이수하도록 할 필요가 있다.

딥페이크 성범죄를 예방하고, 급속도로 발전하는 AI 기술을 한시라도 윤리와 제도가 따라잡으려면, 우리 학생들을 포함한 모든 주체들이 'AI 윤리' 교육을 필수로 받아야 함을 다시 한번 강조하고자 한다.