요즘 뉴스 보면 딥페이크 기술로 만든 가짜 영상 때문에 피해 보는 사람들이 너무 많아요. 특히, 유명인이나 일반인 할 것 없이 누구나 딥페이크의 타겟이 될 수 있다는 사실이 정말 무섭죠.
사실 저도 처음에는 딥페이크가 그냥 재미있는 기술인 줄 알았어요. 하지만 점점 더 많은 사람들이 딥페이크로 인해 고통받는 모습을 보면서, 이 문제를 더 이상 외면할 수 없다고 생각했어요.
딥페이크, 도대체 뭐야?
딥페이크는 인공지능 기술을 이용해서 특정 사람의 얼굴이나 목소리를 다른 사람의 얼굴이나 목소리로 바꾸는 기술이에요. 마치 영화 특수효과처럼 말이죠.
하지만 딥페이크 기술은 단순히 재미있는 영상을 만드는 데 그치지 않고, 범죄에 악용될 가능성이 매우 높아요. 예를 들어, 딥페이크 영상을 이용해서 특정인을 모욕하거나, 허위 정보를 유포하여 사회를 혼란에 빠뜨릴 수도 있죠.
딥페이크 범죄, 어떤 피해를 가져올까?
딥페이크 범죄는 개인뿐만 아니라 사회 전체에 큰 피해를 가져올 수 있어요.
- 개인: 명예훼손, 협박, 사생활 침해 등으로 심각한 정신적 고통을 겪을 수 있어요.
- 사회: 가짜 뉴스 확산, 사회 불안 증가, 신뢰 저하 등으로 사회 질서를 혼란시킬 수 있어요.
딥페이크 범죄 예방을 위해 우리가 할 수 있는 일은?
딥페이크 범죄는 개인의 노력만으로는 막기 어렵지만, 우리 모두가 함께 노력하면 충분히 예방할 수 있어요.
- 딥페이크 기술에 대한 이해를 높이기: 딥페이크 기술이 무엇인지, 어떻게 만들어지는지에 대해 정확히 알아야 피해를 예방할 수 있어요.
- 소셜 미디어 이용 시 주의: 딥페이크 영상을 확인하지 않고 무분별하게 공유하는 것은 2차 피해를 야기할 수 있으므로 주의해야 해요.
- 정확한 정보 확인: 딥페이크 영상인지 아닌지 꼼꼼히 확인하고, 의심스러운 정보는 섣불리 퍼뜨리지 말아야 해요.
- 관련 법규 강화: 딥페이크 범죄에 대한 처벌을 강화하고, 딥페이크 기술의 악용을 방지하기 위한 제도적인 장치를 마련해야 해요.
함께 힘을 합쳐 딥페이크 범죄를 막아요!
딥페이크 범죄는 우리 모두의 문제입니다. 우리가 함께 노력하면 딥페이크 범죄 없는 안전한 사회를 만들 수 있습니다.
적대적 생성 네트워크(Generative Adversarial Network, GAN)는 2014년 인공지능 분야에서 최고의 학회로 손꼽히는 신경정보처리시스템학회(NIPS) 컨퍼런스에서 이안 굿펠로우 등 여러 학자에 의해 처음 제시되었다.
저자는 이 논문에서 GAN에서는 생성 모델과 판별 모델이 적대적으로 학습한다는 개념을 설명하면서, 경찰을 속이려는 위조화폐범과 위조화폐를 찾아내려는 경찰이 적대적 경쟁을 통해 위조품과 진품을 구별할 수 없을 때까지 방법을 개선하는 것으로 비유하였다. GAN은 딥러닝 학습 방법의 하나로 음성, 영상, 이미지 등 다양한 곳에 적용될 수 있다.
딥페이크(Deepfake)라는 용어가 가 처음 나온 것은 2017년이다. 브리태니커 백과사전에 따르면, 미국의 대형 커뮤니티 사이트인 레딧(Reddit)의 한 운영자가 ‘딥페이크’라는 서브레딧을 만들어 유명인의 얼굴로 바꾼 딥페이크 성착취물을 올린 것이 그 시작이었다고 한다.
미국 보안업체 시큐리티히어로의 조사에 따르면, 2023년 온라인 딥페이크 비디오는 모두 95,820개(2019년보다 5.5배 폭증)인데, 이중 98%가 성착취물이고, 딥페이크 성착취물의 대상은 99%가 여성이다. 전 세계 딥페이크 성착취물 피해자의 53%가 한국인이다.
GAN을 활용한 딥페이크가 많이 알려지면서, 정치인의 얼굴이나 목소리를 위조함으로써 선거에 악용될 수 있다는 등의 우려가 있었고, 이에 대응하기 위해 딥페이크 위조 여부를 찾아내는 기술이 연구되어 왔지만, 정작 딥페이크는 여성의 얼굴 사진을 악용해 디지털 성착취물을 만드는 데 압도적으로 많이 사용되어 온 것이다.
2018년 하반기부터 이뤄진 텔레그램 N번방 성착취 범죄가 2020년에 세상에 알려졌을 때 다들 몸서리치며 지옥을 봤다고 얘기했다. 10대의 어린 피해 여성을 다그치며 ‘디지털 성착취’를 하는 과정과 그걸 조롱하며 즐기는 자들, 그것을 영상으로 배포하는 자들을 보며, 기자나 수사관, 실무 공무원 등이 모두 토할 것 같다고 말했다고 한다(‘n번방’ 취재 기자는 ‘박사방’에 이르러 확신했다 “이건 잡아야 한다”, 한겨레, 2020.11.16.)
대통령까지 나서면서 경찰청에 ‘디지털 성범죄 특별수사본부’가 만들어져 9달 동안 3,575명을 검거했다. 범인 중 71%가 10대와 20대였고, 피해자는 1,154명, 그중 10대가 61%였다(디지털 성범죄 특별수사본부 운영(3.25.~12.31.) 결과, 경찰청 보도자료, 2020.12.30.). 주범 조주빈은 징역 42년, 문형욱은 징역 34년을 선고받았다. 다른 범죄자들은 어떤 처벌을 받았는지 잘 알려지지 않았다.
이러한 사회 분위기에서 2020년 3월에는 딥페이크 성범죄를 처벌하기 위해 성폭력처벌법 제14조의2가 신설되었다.
성폭력처벌법 제14조의2(허위영상물 등의 반포등) ① 반포등을 할 목적으로 사람의 얼굴ㆍ신체 또는 음성을 대상으로 한 촬영물ㆍ영상물 또는 음성물(이하 이 조에서 “영상물등”이라 한다)을 영상물등의 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집ㆍ합성 또는 가공(이하 이 조에서 “편집등”이라 한다)한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다. ② 제1항에 따른 편집물ㆍ합성물ㆍ가공물(이하 이 항에서 “편집물등”이라 한다) 또는 복제물(복제물의 복제물을 포함한다.)을 반포등을 한 자 또는 제1항의 편집등을 할 당시에는 영상물등의 대상자의 의사에 반하지 아니한 경우에도 사후에 그 편집물등 또는 복제물을 영상물등의 대상자의 의사에 반하여 반포등을 한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다. ③ 영리를 목적으로 영상물등의 대상자의 의사에 반하여 정보통신망을 이용하여 제2항의 죄를 범한 자는 7년 이하의 징역에 처한다. |
이어 2021년 7월, 법무부에 ‘디지털 성범죄 등 TF’가 출범했다. TF팀에서는 디지털 성범죄에 대해 수사부터 재판에 이르기까지 60여 개 법률에 대해 개선을 권고했으나 정권이 바뀌자마자 2022년 6월에 법무부는 TF팀을 해체했다. 그때 법률이 개정됐다면, 지금 수많은 국민이 인스타그램을 비공개로 돌리고, 카톡 프로필 사진을 내리는 일이 없지 않을까 하는 아쉬움이 있다.
법적, 제도적 준비가 되지 않은 상태에서 이젠 딥페이크 성범죄가 우리 사회의 큰 문제가 되고, 부끄럽게도 세계적인 관심사가 되었다(Inside the deepfake porn crisis engulfing Korean schools, BBC, 2024.9.3.).
교육부가 2차까지 한 조사에 따르면, 피해 초·중·고교 학생이 588명, 교사가 27명에 이른다. 어린 여학생들의 피해가 극심한 셈이다. 조사 기간이 늘어남에 따라 피해가 계속 늘어날 것으로 보인다.
경찰청의 자료와 교육부 자료를 종합하면, 딥페이크 성범죄 피해자 중 미성년자 수는 2021년 53명에서 2023년 181명, 올해 9월 6일 기준 최소 588명으로 단 3년 만에 10배 이상 폭증하였다.
또 한 가지 눈에 띄는 점은 2023년 딥페이크 범죄자의 75.8%가 10대라는 것이다. 막연하게 그럴 수 있겠다고 생각했으나, 실제 숫자를 보면서 놀라지 않을 수 없다.
방송통신위원회와 한국지능정보사회진흥원가 펴낸 2022 사이버폭력 실태조사 보고서에선 딥페이크 성범죄 범인 중 왜 청소년이 많은지 그 단편을 드러낸 설문 결과를 확인할 수 있다.
청소년들이 딥페이크 성범죄를 놀이처럼 인식한다는 분석이 있는데, 그 놀이 인식 근저에는 범죄를 저질러도 검거되지 않거나 검거되더라도 처벌되지 않을 거라는 ‘믿음’이 있는 것이다. 중대한 범죄를 저지르고도 중하게 처벌받지 않는 현실이 문제다.
딥페이크 성범죄는 단지 프라이버시를 침해하는 ‘합성 음란 영상물’이 아니라 악성 디지털 성폭력 범죄라는 관점에서 신속한 강제 수사와 증거 확보, 무거운 처벌이 뒤따라야 한다. 디지털 성범죄물에 대한 위장 수사와 국내외 플랫폼 사업자 등에 대한 긴급 차단, 삭제 명령 등의 응급 조치가 가능하도록 법률의 개정이 이뤄질 필요가 있다.
또한, 법원의 인식 전환이 무엇보다도 중요하다. 앞에서 언급한 ‘성폭력처벌법 제14조의2가 시행된 이후에 기소된 87명 중 1심에서 징역형을 선고받은 사람은 24명(27.5%)에 불과하다. 대부분 집행유예(39%)나 벌금형(16%)으로 풀려나왔다(‘딥페이크 처벌법’ 시행 이후…실형 선고 비율은 28% 그쳐, 한겨레, 2024.9.4.).
성폭력처벌법 제14조의2 제2항에서 디지털 성범죄물의 배포 범죄에 대해 5년 이하의 징역을 규정했지만, 대법원의 ‘디지털 성범죄 양형 기준’에 제시된 ‘3. 허위영상물 등의 반포 등’에서는 이에 훨씬 못 미치는 ‘6월~1년 6월’로 규정하고 있다. 법률의 취지와 동떨어진 처벌이 나오는 이유가 바로 여기에 있지 않나 싶다. 딥페이크를 포함해 디지털 성범죄 피해자와 이를 바라보는 국민이 ‘지옥이 열렸다’고 느끼는 국내 현실에 대해 법원의 인식 전환과 양형 기준의 강화가 무엇보다도 중요하다.
청소년기는 교육과 지도를 통해 세계관을 형성하고 잘못을 바로잡을 수 있는 좋은 시기이기도 하다. 인터넷이 도입된 초기부터 인터넷 중독이나 지식재산권 침해와 같은 인터넷의 역기능에 대해 주목하고 어렸을 때부터 인터넷 윤리 교육이 필요하다는 의견이 있었고, 일부 교육이 이뤄지고 있다. 디지털 성범죄가 심각한 현 상황을 고려하면, (디지털) 성인지 교육, 성평등교육, 인권 감수성 교육 등 공교육 과정에서 적절한 교육이 있어야 할 것 같다. 특히 디지털 성범죄의 다수를 차지하는 남성 청소년에 특화된 ‘재미있는’ 교육이 필수적인 게 아닐까 싶다.
아무쪼록 딥페이크 성범죄가 큰 사회적 현안으로 떠오른 만큼 디지털 성범죄에 대한 법적, 사회적, 교육적으로 필요한 대책을 총체적으로 수립하고 강력하게 시행함으로써, 온 국민이 마음 놓고 디지털 시대를 살아갈 수 있기를 바라 마지 않는다.
원문보기:
https://www.ciokorea.com/column/350417#csidx8b810ab18e9ae8d8648ca27e543490a
딥페이크는 우리의 연결을 끊으려고 하지만, 우리는 서로를 믿고 의지하며 더욱 단단해질 거예요.
댓글 없음:
댓글 쓰기