글, 어피티

생생 MZ톡 참여자 

• 오리부리(31세, 마케터)
• 앨리스(32세, 통역가)
• 이응(24세, 대학생) 
• 유진(36세, 회사원)
• 낭랑(28세, 프리랜서)
• 영경(29세, 프리랜서)

딥페이크 성범죄에 대한 처벌 수위는 적절한 걸까요? 

낭랑 (28, 프리랜서): “처벌 수위가 너무 약해서 피해자가 계속 늘어나고 있으니 더 강력한 처벌이 필요해요.”

• 한 다리, 두 다리만 건너도 딥페이크 피해자들이 있더라고요. 대부분 학생들이 가해자였다는 점이 가장 말이 안 된다고 생각했어요. 처벌 수위가 낮은 건 알고 있었지만, 얼마나 낮으면 이렇게 우후죽순 피해자들이 나오나 싶어요.

오리부리 (31, 회사원): “딥페이크 성범죄 영상에 대한 처벌은 강화되긴 했지만, 적발 방식과 집행 체계가 더 공고해져야 실효성이 있지 않을까요?”

• 현재 개정된 법률에 따르면 성적 허위영상물의 소지·구입·저장·시청 행위는 징역 3년 또는 3000만 원 이하 벌금으로 처벌하고, 편집·반포는 7년 이하의 징역으로 처벌한다고 하네요. 소지하는 것만으로도 이 정도 처벌을 한다고 하면 그래도 꽤 효과가 있을 것 같기는 해요. 이런 영상을 소지하고 있다는 걸 적발할 수 있을 때 이 법률이 효과를 발휘할 수 있을 텐데요. 이걸 확인할 수 있도록 사이버 수사망을 조금 더 공고히 해서 진짜 실효성 있는 정책이 된다면 좋겠어요.
  
  또, 성적 허위영상물 반포에 대한 처벌이 불법촬영물과 동일하게 최고 7년형을 주겠다는 건 불법촬영물에 대한 처벌 수위가 낮다는 생각이 들어요. 딥페이크로 합성한 성적촬영물이라고 하더라도 피해자는 동일한 정신적 고통과 사회적 피해를 입게 될 텐데, 편집과 반포를 한 범죄자에 대한 처벌이 훨씬 세졌으면 좋겠어요.

유진 (36, 회사원): “한국의 성범죄 처벌은 전반적으로 관대해서 양형 기준 자체를 개편해야 한다고 봐요.”

• 딥페이크 뿐만 아니라 한국에서는 성범죄의 양형 기준이 너무나 관대한 것 같아요. 법을 바꿔서 형량을 아무리 중하게 한들, 공판 과정에서 가해자가 결혼을 했다, 직업이 있다, 이런 온갖 이유를 붙여서 감형해 버리는 게 대부분이더라고요. 판결이라는 게 결국 해당 이슈를 바라보는 그 사회의 인식과도 궤를 같이 하는 만큼, 여성인권에 대한 인식도 개선이 되어야 하고 양형 기준 자체를 구조적으로 개편하는 과정이 필수라고 생각해요.

영경 (29, 프리랜서): “딥페이크 성범죄 처벌은 기준이 명확하지 않기 때문에 강력한 처벌과 기준 마련이 필요할 것 같아요.”

• 기존의 성범죄 처벌도 잔혹한 범죄에 비하면 터무니없이 적은 형을 받아서 사람들의 공분을 샀던 것 같아요. 딥페이크 성범죄는 비교적 최근에서야 문제의 심각성이 이야기되고 있는데, 처벌의 수위는 물론이고 처벌 받는 대상의 구분도 명확하지 않아서 모두 뜯어보고 그 기준을 명확히 잡는 게 필요해 보여요.

온라인 플랫폼의 딥페이크 유포 방지를 위한 책임과 의무는 어떻게 설정되어야 할까요?

앨리스(32세, 통역가): “정부와 협력한 철저한 규제, 윤리적 알고리즘, 그리고 내부 교육을 통한 선순환이 필요해요.”

• 온라인 플랫폼은 성인물 사이트보다 더 철저하고 광범위한 규제가 필요하다고 봐요. 정부기관과 협력하고, 윤리적 알고리즘 적용을 위해 인적 자원을 활용한 적극적인 모니터링도 이뤄져야 해요. 플랫폼 기업 직원들도 내부 교육을 통해 범죄의 심각성을 인지하고 더 나은 방식을 계속 공유하며 발전하는 선순환이 만들어졌으면 좋겠어요.

낭랑(28세, 프리랜서): “플랫폼의 기술적 한계를 고려할 때, 이용자들의 적극적인 미디어 리터러시와 신고 참여가 중요해요.”

• 유튜브처럼 아동 영상의 댓글을 자동으로 제한하듯이, 딥페이크 추정 콘텐츠를 적극적으로 제한하는 것도 좋은 방법일 것 같아요. 하지만 갈수록 정교해지는 기술을 플랫폼이 얼마나 잘 걸러낼 수 있을지는 의문이에요. 결국 개개인의 미디어 리터러시와 적극적인 신고가 중요할 것 같아요. 신고하는 사람보다 소비하는 사람이 많으면 플랫폼은 계속 소극적으로 대처할 테니까요.

이응(24세, 대학생): “개인의 신고에만 의존하지 말고, 플랫폼이 먼저 필터링과 딥페이크 표시 의무를 가져야 해요.”

• 저는 오히려 개인의 신고 이전에 플랫폼이 먼저 필터링을 하거나 딥페이크 영상임을 명시하는 의무를 가져야 한다고 생각해요. 물론 쏟아지는 콘텐츠를 모두 걸러내긴 어렵겠지만, 플랫폼의 관리나 가이드라인이 없다면 소비자에게만 과도한 책임이 부과될 것 같아요. 

오리부리(31세, 회사원): “온라인 플랫폼은 AI 추적 기술을 활용해 딥페이크 콘텐츠를 필터링하는 사회적 책임을 져야 해요.”

• 저도 온라인 플랫폼이 더 많은 책임을 져야한다는 의견에 동의해요. 요즘은 생성형 AI 작업물을 추적하고 적발하는 기술이 많이 발전하고 있잖아요. 이용자의 체류 시간을 늘리기 위해 자극적인 게시물을 방치하는 일은 없어야 하고, 개인정보를 보호하면서도 업로드되는 영상물들을 관리하려는 노력은 있었으면 좋겠어요.

딥페이크 기술의 오남용을 막기 위해 어떤 기술적·사회적 대안이 필요하다고 생각하시나요?

이응(24세, 대학생): “명확한 기술 사용 기준과 공교육 차원의 교육이 시급해요.”

• 딥페이크 기술 오남용의 범위와 기준부터 명확하게 만들어야 해요. AI 기술 사용을 위한 가이드라인도 없는 상태에서 너무 쉽게 AI 기술을 접할 수 있으니까요. 가해자와 피해자 모두가 대부분 청소년이라 공교육 차원의 수업도 필요해요.

오리부리(31세, 회사원): “성범죄 감수성 향상과 딥페이크 판별 능력 교육이 필요해요.”

• 기술적인 부분에 대해서는 전문가가 아니라 정확하게 말할 수 없지만 한가지는 확실해요. 사회적으로 성범죄에 대한 감수성이 더 높아져야 한다는 거죠. 또 진짜와 구분하기 어려운 딥페이크 영상을 판별하는 능력을 기르도록 네티즌들에게 가이드라인을 배포하고 교육하는 것도 중요해 보여요.

낭랑(28세, 프리랜서): “성범죄의 심각성에 대한 사회적 공감대 형성이 절실해요.”

• 한국에서는 성범죄를 ‘그럴 수도 있다’고 보는 인식이 있어서 기술이 악용돼도 막지 않고, 처벌도 솜방망이예요. ‘딥페이크도 성범죄고, 성범죄는 정말 죄질이 나쁘다’는 공통의 감각이 필요해요.

앨리스(32세, 통역사): “교육을 통한 예방이 우선이고 기술 전문가들과 함께 현실적인 해결책을 찾아야 해요.”

• 정부 차원의 투자로 교육기관에서부터 범죄자 양산을 막아야 해요. 단순 단속으로는 부족하고, 기술적 규제도 한계가 있어요. 그래도 기술 전문가들로 자문위원을 구성해 현실적인 해결책을 찾아야 해요.

어피티의 코멘트

• AI 기술은 수많은 일들을 가능하게 했지만, 딥페이크와 같은 부작용을 불러오기도 했죠. MZ세대들은 딥페이크 성범죄의 심각성을 인식하고, 범죄에 대한 강력한 처벌과 명확한 기준을 요구하고 있어요. 딥페이크 성범죄를 해결하기 위해서는 개개인의 양심에 기대는 것 이상으로, 플랫폼과 정부차원 등 사회 전반의 노력이 필요해 보여요. 그런 의미에서 정부가 딥페이크 성범죄 영상 등에 대해 피해자 보호를 위해 콘텐츠를 심의 전 차단할 수 있는 근거를 마련한다는 소식은 참 다행스러운 일이죠.