본문 바로가기 메인메뉴 바로가기

태극기이 누리집은 대한민국 공식 전자정부 누리집입니다.

콘텐츠 영역

딥페이크 성범죄 대응 강화 방안

2024.11.06 김종문 국무1차장
글자크기 설정
인쇄하기 목록
딥페이크 성범죄 대응 범정부 T/F 단장 국무1차장입니다.

T/F에서 마련한 딥페이크 성범죄 대응 강화 방안을 말씀드리겠습니다.

정부는 심각해져가는 딥페이크 성범죄에 체계적으로 대응하기 위해 지난 8월 30일 법무부, 과기부, 여가부, 방통위, 경찰청 등 관계부처와 함께 범정부 T/F를 구성하고 대책 마련에 착수하였습니다.

사안의 심각성과 중요성을 감안하여 대책 마련 전이라도 우선 대응이 필요한 사항은 즉시 조치를 하였습니다.

먼저, 경찰청은 8월 말부터 딥페이크 성범죄 집중 단속에 착수하였으며 여가부는 전담 대응팀을 운영하면서 삭제 지원, 상담 등 피해 지원을 확대하였습니다.

교육부는 학교 피해자 현황조사를 매주 실시한 후 수사 의뢰 등 조치를 하고 딥페이크 성범죄의 심각성에 대한 예방교육을 실시하였습니다.

국방부는 군 내부망의 사진을 비활성화 조치하고 전 군에 딥페이크 성범죄 특별예방교육을 실시했습니다.

방통위와 방심위는 해외 SNS에 대한 집중 모니터링을 실시하고 텔레그램과 핫라인을 구축해 디지털 성범죄 영상을 삭제해 나가고 있습니다.

이와 함께 국민의힘 딥페이크성범죄대응특별위원회 등 당정 협의를 통해 성적 허위 영상물에 대한 처벌과 피해자 지원을 강화하는 입법을 추진하였습니다. 여야 의원들의 높은 관심과 협조로 성폭력처벌법, 청소년성보호법, 성폭력방지법 등 3개 법안이 지난 9월 국회를 통과하였습니다.

개정돼 현재 시행 중인 주요 사항은 허위 영상물을 편집·반포한 경우 처벌을 보다 강화하고 허위 영상물을 소지하거나 시청만 해도 새롭게 처벌하는 내용 등입니다.

오늘 발표하는 방안은 T/F 참여 부처들과의 협의, 전문가 및 플랫폼기업과의 간담회, 당정 협의 등 의견 수렴을 거쳐 마련하였습니다.

방안의 주요 내용은 강력하고 실효적인 처벌, 플랫폼 책임성 강화, 신속한 피해자 보호, 맞춤형 예방교육 등 4대 분야의 10개 과제, 29개 세부 과제입니다.

분야별 세부 대... 분야별 주요 대책을 말씀드리겠습니다.

먼저, 딥페이크 성범죄물에 대한 처벌과 수사를 강화합니다.

올해 실시된 디지털 성범죄 인식조사에 따르면 국민들은 가해자에 대한 처벌 강화를 가장 효과적인 딥페이크 성범죄 대책으로 인식하고 있습니다. 지난 9월 통과된 법률은 강화된 처벌을 규정하고 있습니다.

이에 더해서 성적 허위 영상물 범죄로 얻은 재산과 수익을 몰수·추징하기 위한 성폭력처벌법 개정을 추진하겠습니다. 또한, 새로운 유형의 디지털 성범죄에 대응하기 위해 다양한 수사기법을 도입하고자 합니다.

우선, SNS 대화방을 통해 확산되는 딥페이크 성범죄의 특성을 감안해 위장 수사를 현재의 아동·청소년 성범죄물뿐만 아니라 피해자가 성인인 경우까지 범위를 확대하도록 성폭력처벌법 개정을 추진하겠습니다.

아울러, 자진 신고자에 대한 형량 감면을 도입하고 디지털 성범죄물에 대해서도 마약 등의 범죄에서 허용되는 인터넷 모니터링과 같은 수사기법을 도입하도록 관련법 개정을 추진하겠습니다.

검경의 수사와 단속은 지속적으로 강화하겠습니다. 경찰은 내년 3월까지 집중 단속을 계속하면서 딥페이크 자동탐지 소프트웨어를 활용해 수사력을 강화하겠습니다. 검찰청은 전담 검사를 23명에서 43명으로 증원하고 지역거점 검찰청 등에 설치된 여성·아동범죄수사부를 12곳에서 24곳으로 확대할 계획입니다.

또한, 중대 디지털 범죄에 대해 원칙적으로 구속수사를 적용하고 양형 기준 정비를 협의해 엄정하게 처벌해 나가도록 하겠습니다.

딥페이크 성범죄물이 해외 서버 플랫폼을 통해 유포되고 있는 현실을 감안해 국제 형사 사법 공조를 강화하겠습니다. 세계 최초 사이버범죄 국제협약인 부다페스트협약 가입을 통해 EU, 미국 등 76개국 국가들과 함께 해외 서버의 증거의 신속한 보존 등 국제 공조 수사체계를 구축해 나가겠습니다.

다음은 플랫폼 사업자의 책임성과 의무를 강화하겠습니다.

많은 딥페이크 성범죄물은 텔레그램 등 해외 기반 플랫폼에서 유통되고 있지만 이에 대한 실효성 있는 대책이 미흡하다는 지적이 많았습니다.

이에 정부는 예컨대 텔레그램 오픈 채널에서 접속 링크와 비밀번호를 불특정 다수에게 배포해 접속을 유도하는 것을 청소년 유해물 제공·매개에 해당하는 것으로 정보통신망법을 적극 해석해 해외 사업자에게 청소년보호책임자 지정 등의 의무를 부과하고 미이행 시에는 과태료를 부과하도록 하겠습니다.

또한, 플랫폼 사업자가 불법 촬영물 등 유통방지 의무를 불이행하는 경우 적용할 수 있는 전기통신사업법상의 시정명령과 과징금 조항을 보다 적극적으로 활용해서 플랫폼의 관리 책임성을 제고하겠습니다.

불법 촬영물을 게재한 사용자에 대해서는 서비스 이용 중단이나 탈퇴 등 조치를 취해 범죄행위를 차단하도록 정보통신망법 개정을 추진하겠습니다.

플랫폼 사업자와의 협력도 강화하겠습니다.

협의 채널이 가동되고 있는 국내 업체와 해외 플랫폼뿐만 아니라 국내에 사업소가 없는 플랫폼과도 협의 채널을 구축하여 불법 콘텐츠에 보다 실질적으로 대응해 나가겠습니다.

딥페이크 성범죄물 주요 유통 플랫폼으로 지목되어 온 텔레그램과 방심위 간 실무 협의를 정례화하고 불법 콘텐츠를 신속하게 삭제하겠습니다. 또한, 경찰의 수사에도 협조하도록 협력 관계를 구축해 나가겠습니다.

셋째, 신속하게 피해자를 보호하겠습니다.

디지털 성범죄 국민 인식조사에서 피해자 지원 중 가장 시급하고 필요한 대책은 삭제 지원이었습니다. 피해자 지원을 위해 사진·영상과 함께 노출된 피해자의 신상정보까지 삭제하고 삭제 지원 주체를 국가 외에도 지방자치단체까지 확대할 수 있도록 지난 9월 성폭력방지법이 개정되었습니다.

추가 조치는 ‘선 삭제 후 심의’ 제도화입니다. 그동안 현재 성범죄물 의심 영상 삭제 요청을 받은 사업자는 판단이 어려울 경우 방심위에 심의를 먼저 요청해야 했습니다. 하지만 앞으로는 우선 차단 조치를 실시한 후 심의를 요청하도록 전기통신사업법 개정을 추진할 계획입니다.

또한, 사업자가 방심위로부터 불법 영상물 삭제 요청을 받은 경우 24시간 내에 신속히 삭제하도록 삭제 시한을 관련 규정에 명시토록 하겠습니다.

피해자에 대한 지원을 보다 체계적으로 하겠습니다. 피해자와 국민 누구나 보다 쉽게 신고할 수 있도록 전국의 디지털성범죄피해자지원센터와 지역특화상담소 등의 신고를 1366으로 일원화하고 전용 홈페이지도 구축하겠습니다.

중앙과 지방의 디성센터에서 일하는 인력을 대폭 증원하여 모니터링 역량을 강화하고 상담 창구를 24시간 운영하는 등 피해자를 실질적으로 지원할 수 있도록 하겠습니다.

아울러, 디성센터와 경찰, 학교, 군, 방심위 등 유관기관과의 긴밀한 연계를 통해 신속한 삭제는 물론, 수사 의뢰, 전문가 심리 상담과 법률 지원에 이르기까지 종합적인 지원 서비스를 받으실 수 있도록 하겠습니다.

또한, 딥페이크 차단·탐지·예방 기술 개발을 확대하고, AI 생성물임을 쉽게 알 수 있도록 워터마크 표시를 의무화해 피해를 줄여 나가겠습니다.

딥페이크 보안기술은 특허 우선 심사를 받을 수 있도록 해 기술적·제도적 측면에서도 딥페이크 피해를 예방하는 조치를 해나가겠습니다.

넷째, 딥페이크 성범죄에 대한 예방 교육 및 홍보를 강화하겠습니다.

딥페이크 성범죄는 가해자의 대다수와 피해자의 다수가 청소년으로 피해자는 말할 수 없는 고통과 피해를 받는 반면, 가해자는 심각한 범죄라는 인식조차 못 하는 경우가 많습니다.

이를 고려해 대상별로 맞춤형 예방교육을 실시하는 한편, 딥페이크 범죄에 대한 경각심을 갖도록 대국민 홍보를 집중 실시하겠습니다.

학교뿐만 아니라 청소년 시설 등 다양한 기관에서 올바른 디지털 윤리를 함양할 수 있는 교육을 강화하겠습니다. 이를 위해 올해 안으로 교육 교재를 개발·보급하고 교사 연수도 추진하겠습니다.

대학생 대상으로는 디지털 성범죄 예방을 위한 인식개선 체험 프로그램을 운영하고, 대학 내 성폭력 담당자에 대해서도 사안 처리 훈련 등을 통해 대응 역량을 강화토록 하겠습니다.

학부모에게는 '함께학교' 플랫폼 등을 통해 교육용 영상 콘텐츠를 제공하고 별도 대응 매뉴얼을 배포할 계획입니다.

또한, 방송사와 협력해 공익 캠페인을 전개하고 홍보 영상물을 SNS에 확산 시키는 등 다양한 매체를 통한 홍보를 확대하겠습니다.

아울러, 플랫폼 사업자와 협의하여 딥페이크 성범죄 관련 포털 기사 하단에 신고 방법을 노출하는 방안도 추진하겠습니다.

끝으로, 딥페이크 성범죄 대응 범정부 T/F를 앞으로도 계속해서 운영해 나가겠습니다. T/F에서는 주간 단위로 오늘 발표한 대책의 후속 조치 추진 상황을 점검하고 보완하겠습니다. 또한, 추가 대책도 검토해 나가겠습니다.

아울러, 이번 대책에 포함된 법안과 예산을 이번 정기국회에서 최대한 반영하기 위해서 각 부처와 함께 국회에 충실히 설명하고 긴밀히 협의해 나가도록 하겠습니다.

감사합니다.


[질문·답변]
※마이크 미사용으로 확인되지 않는 내용은 별표(***)로 표기하였으니 양해 바랍니다.

<질문> 텔레그램이나 해외 SNS 대리인 지정이나 시정명령 같이 국내 규제 대상에 포함시킨다고 했는데 이거를 따르지 않았을 때 제재나 다른 방안이 있는지.

<답변> 지금 정보통신망법과 전기통신사업법에 동 규제가 돼 있는데 대부분의 국내 업체들과 해외 플랫폼들은 이걸 지키고 있습니다. 하지만 지키지 않을 경우에는 저희들이 시행할 수 있는 조치들이 있는데 이걸 적극적으로 해석하겠다는 거고요.

텔레그램 같은 경우에도 해외에도 다른 업체가 만약 이런 일이 있다면 저희들이 연락을 해서 청소년보호책임자를 지정할 단체인지 여부를 알기 위한 자료를 요구하고 그 자료를 받아서 검토해서 지정하고, 그다음에 또 국내 사업소를 열도록 지도를 하고, 그랬는데 안 따른다, 그러면 저희들은 반복적으로 과태료라든지 시정명령을 계속해서 낼 겁니다.

실효성이 있을지 여부는 상황을 지켜봐야겠지만 그동안 하지 않았던 일이고 할 수 있는 일인데 하지 않았던 일을 정부가 의지를 가지고 적극적으로 함으로써, 또 반복적으로 함으로써 업체에 대한 저희들의 압박도 되는 거고 다른 협조를 이끌어낼 수 있는 계기도 될 수 있다고 기대하고 있습니다.

<질문> 앞서서 2017년과 2019년에도 디지털 성범죄 피해방지 종합대책이나 웹하드 카르텔 방지대책, 2020년에도 N번방 방지대책 이런 게 나왔었잖아요, 이미. 그런데 이번에 새로 내놓으신 게 앞서 3차례 내놓으셨던 거와 가장 큰 차이가 어떤 게 있나요?

<답변> 과거에 내놓았던 대책들 중에서 입법이 된 것도 있고 입법이 안 된 것들도 있었습니다. 하지만 이번에는 8월에 문제가 제기된 이후에 여야 의원 할 것 없이, 또 여가위, 과방위, 법사위 할 것 없이 다 많은 의원들이 문제를 인식하시고 입법에 적극적으로 나서 주셨고, 저희들이 추가로 하겠다고 하는 법안들에 대해서도 이미 대부분은 발의가 되어 있는 상태입니다. 그래서 어느 때보다도 입법화 가능성이 높다는 점이 차별이 있을 수가 있겠고요.

그다음에 두 번째는 컨트롤타워 역할을 하는 게 여러 부처가 관련돼 있기 때문에 대책을 발표한 이후에도 제가 아까 말씀드렸듯이 T/F를 계속 운영하면서 입법이나 단속이나 추진 상황, 피해자 지원 상황 등을 계속 챙겨 보면서 지속적으로 보완하겠다고 말씀드렸습니다. 더 큰 관심을 가지고 하겠다는 점에서 조금 차이가 있을 수 있을 것 같고요.

그 관계기관들 간에 지금 이렇게 계속 협의를 하면서, 연계하고 협의하는 거에서 계속 협의를 진행시켜 나가면서 발전시켜 나가고 있는 점에서도 조금 실행이나 운영 면에서 다르게 할 수 있겠다, 라는 그런 기대를 가지고 있습니다.

<질문> 시대에 뒤떨어진 질문 하나 드리겠습니다. 저희가 자랄 때 이런 것도 있었습니다. 있었는데, 그때는 윤리와 도덕적인 문제가 따르기 때문에 상당히 숨기고 밖으로 표현 안 하고 그거를 숨겼었습니다. 그게 안 나왔습니다, 밖으로. 그런데 과학이 발달했다 보니까 자꾸 나오고 이렇게 하는데 이거 윤리와 도덕적 교육적인 문제를 조금 더 강화할 그럴 계획은 없으신지요? 학교에서.

그다음에 또한, 이거 5년, 7년 상향, 5년에서 7년으로 상향 조정하고, 또 신설된 것도 있고 이렇게 하는데 제가 최근에 뉴스 많이 나옵니다만 경찰이나 검찰이나 수사를 잘 해서 범인을 잡아서 딱 갖다 놓으면 유능한 변호사, 무슨 변호사 다 써, 아주 좋은 변호사 써서 반성문 내고 눈물 흘리고 하면 감형 받고, 그러면 또 아무것도 아니게 됩니다.

그러니까 이 법을 이게 7년이라고 말씀하셨던 7년이 아주 정해져서 이 범죄를 행한 사람은 7년을 그냥 받는 건지, 또 어쨌든 이것저것 해서 감형되는 건지, 심신미약 등 여러 가지 포함해서 감형받아 그렇게 나오게 되면 있으나 마나 한 것 아닙니까? 거기에 대해서 어떤 대응, 대책 있습니까?

<답변> 먼저, 말씀 주신 교육에 관한 거는 이 논의에 참여하신 모든 분들이 가장 근본적인 대책이라고 생각하시는 부분입니다. 그래서 디지털 윤리 교육을 강화하는 거는 학교 차원에서도 교육 시간·시수를 늘리고 콘텐츠를 보강해서 하는 것도 있고, 또 학교 차원에서 이 문제가 있었을 경우에 특별교육을 한다든지 이런 것도 있고, 그다음에 굉장히, 초등학생까지 내려온 거기 때문에 학부모들에 대한 교육도 필요하기 때문에 아까 말씀드린 교육 강화 대책들을 했습니다. 시청자미디어재단이나 또 과기정통부 쪽에서도 필요한 교육들을 하고요.

지금 저희들 대책, 첨부자료 14쪽에 보면 각종 교육과 관련된 내용들을 포함시켜 놓고 있고 그 문제의 심각성이나 중요성을 인식하고 교육을 최대한 강화하려고 합니다. 그리고 관계부처들 간에도 협의해서 교육 내용에 대해서도 서로 정합성 있게 해서 효과 있는 홍보, 교육과 홍보가 되도록 하겠습니다.

처벌과 관련해서는 최대치이기 때문에, 다만 이게 재판 과정에서 여러 가지 고려 요소가 있기 때문에 제가 아까 말씀드렸듯이 양형 기준에 대한 정비도 법무부에서 협의를 해서 한다는 말씀을 드렸습니다.

아마 사안의 성격에 따라서 단순하게 한 거고, 초범이라든지 그다음에 또 반복적으로 한다든지 영리를 목적으로 한다든지 이런 거에 따라서 판단하는 기준은 여러 가지 다를 수가 있기 때문에, 하지만 지금 현재 사회에서 이런 거를 차단하기 위해서는 가해자에 대한 엄정한 처벌이 필요하다, 라는 분위기가 있고 그런 내용들이 법안에 반영되어 있다, 저는 그 점에서 양형기준이라든지 그것도 상당히 앞으로 효과 있을 거라고 생각하고요.

최근에 놓은 어떤 재판에서도 검찰에서 구형한 10년을 법원에서도 그대로 10년으로 서울대 사건 한 것 있지 않습니까? 저는 그게 우리 사회 분위기라든지 그걸 말해 주고 있다고 생각합니다.

<질문> 한 가지, 부연해서 하나만 더 여쭤보겠습니다. 지금 초범, 아까 말씀하셨던 초범, 또 여러 가지 여건 해서 그 사람에 대한 동정심 유발시켜서 감형받고, 또 구속이 안 되고 이런, 그런 것이 사회에 상당히 만연돼 있는 것 아니겠습니까?

그러면 그걸 뛰어넘어서 좀 더 강력하게, 강력하게 처벌해서 이 사람이 사회에 나와서도 '이거 하면 안 되겠구나.' 하는 그런 마음을, 경각심을 내 스스로가 가질 수 있도록 그렇게 강력하게 처벌, 그런 처벌 조항은 없습니까?

<답변> 지금 그래서 청소년성보호법에서 청소년을 이용해서 협박하는 경우도 새롭게 처벌하는 규정을 만들었고, 지난 9월에. 그다음에 이번에도 소지하거나 시청만 해도 처벌하는 규정을 신설했고, 판매하거나 유포한 사람들은 처벌을 강화하는 내용을 넣었습니다. 그런 내용들이 그런 차원에서 들어간 내용입니다.

<질문> 알겠습니다. 감사합니다.

<답변> 삭제 지원 관련한, 삭제 지원을 강화하겠다는 방안이 많이 포함된 걸로 알고 있는데 지난번에 국회 입법조사처에서 불법 영상물 미삭제율이 거의 매년 30% 내외라고 나와 있더라고요. 혹시 이번 대책 통해서 이 미삭제율을 어느 정도로 낮출 수 있다고 보시는지 여쭤보고 싶습니다.

<답변> 지금 미삭제율에 대한 통계를 지금 가지고 있지는 않습니다마는 지금 현재 디성센터라든지 방심위의 인력을 증원하는 내용이 포함되어 있습니다. 더 많은 인력들이 신고를 받아서 이거를 플랫폼 업체에 삭제해 달라고 하고 방심위에서 의사 결정을 빨리빨리 해서 넘기면 삭제 지원은 굉장히 더 많아질 거라고 예상합니다.

'하지만 전체가 얼마인데 얼마가 됐고 지금 30%가 미삭제인데 앞으로 얼마를 목표로 한다.' 이렇게까지 구체적인 수치를 말씀드리기에는 지금 좀 어려운 상황입니다. 양해해 주시기 바랍니다.

<답변> (신영규 방통위 방송통신이용자정책국장) 방통위 이용자정책국장입니다. 구체적으로 저희가 목표 수치를 제시하기는 어렵지만 현재 지금 일단 텔레그램이 가장 큰 문제이지 않습니까? 그런데 텔레그램과는 핫라인이 구축돼 있고 지금 현재 저희가 요청하는 부분에 대해서 방심위 통해서 요청하면 다 삭제를 해주고 있기 때문에 그런 점을 감안하면 충분히 미삭제율은 낮출 수 있는 여지가 있다고 생각하고 있습니다.

<질문> 저 추가 질문드리고 싶은데 아까 말씀하신 내용 중에 텔레그램은 아직 국내 사업소가 없잖아요, 핫라인은 있다고 해도. 그런데 그런 데들도 24시간 안에 삭제할 의무를 부과하는 게 현실적으로 어떻게 가능한지가 그려지지가 않거든요.

그리고 마찬가지로 AI, 생성형 AI로 만들어 낸 콘텐츠에 대해서 워터마크 표기 의무화하는 것도 예방책 중 하나로 제시하셨는데 그런 것도 스노우 같은 국내사업자 앱에는 가능한 얘기일지 몰라도 지금 실제로 텔레그램에서 유통되는 딥페이크물들이 다 해외 소프트웨어들로 만든 거잖아요. 그런데 그런 걸 실질적으로 막을 수 있는 대책이 맞나 의구심이 들거든요. 어떻게 보시는지 궁금합니다.

<답변> (엄열 과기정통부 정보통신정책관) 과기정통부 정보통신정책관입니다. 두 번째 먼저 말씀 주신 것 답변드리겠습니다. AI 워터마크 관련된 부분들은 사실 생성형 AI로 되어 있는 부분에 대한 딥페이크물에 대한 예방 차원이나 사후적 추적 차원이나 이런 부분에서 가장 기본적인 최소한의 규제체계라고 말씀드릴 수 있겠고요.

해외 사업자들도 지금 이런 부분들에 대해서 다 인지하고 있고 우리나라 법뿐만 아니라 EU 법 또 미국과 관련된 여러 가지 규정된 사항들이 워터마크 규정 사항들을 규정하고 있습니다.

저희 법도 AI법, 국회 계류 중인 AI기본법상에도 인공지능 사업자 그리고 인공지능 서비스 제공 사업자들 모두 워터마크 관련된 부분들에 대한 의무 조항으로 마련돼 있습니다. 국회의 조속한 통과를 위해 노력하겠습니다.

<질문> 관련해서 조금 더 궁금한 게 지금 불법 합성물의 정의를 어떻게 보고 계신 거예요? 그러니까 생성형 인공지능을 사용해서 만든 게 불법 합성물인가요? 그런데 실제로 유통되는 거 보면 그냥 그림판으로 피해자 얼굴에 남자 성기를 갖다 붙여놓는다든가 그런 거는 그렇게 복잡한 기술이 들어간 게 아니잖아요. 그런데...

<답변> (엄열 과기정통부 정보통신정책관) 딥페이크 관련된 부분은 사실은 인공지능 기술을 이용해서 활용할 수, 만들 수 있고요.

<질문> 그런데 지금 이 대책이 예방하고자 하는 콘텐츠가 그런 광범위한 불법 합성물을 의미하는 건지 아니면 그런 고도화한 기술을 사용해서 만들어진 결과물들만 의미하는 건지 그게 잘, 헷갈리거든요.

<답변> (엄열 과기정통부 정보통신정책관) 그렇지 않습니다. 딥페이크물은 어떤 기술을 사용하든지 지금 생성물로 나와 있는 부분들을 의미를 하고 있고요. 합성을 통해서, 합성을 통해서 하는 부분들이 있고요. 조악한 기술이라고 볼 수 있습니다만 서로 다른 사진을 합성해서 만든 것도 딥페이크물입니다.

<질문> 그럼 그런 것도 지금 시스템에서 걸러낼 수 있는 건가요? 걸러내실 계획이 있으시고?

<답변> (엄열 과기정통부 정보통신정책관) 시스템에서 당연히 걸러낼 수 있고요. 당연히 걸러낼 수 있고, 또 그런 부분들은 지금 방심위를 통해서, 인력을 통해서도 그런 부분들은 탐지해서 삭제 조치할 수 있습니다.

그러니까 새로운 기술을 적용한 것도 있고 일반적인 부분에 대해 삭제하는 부분도 있다고 생각하시면 되겠습니다.

<질문> 그리고 이게 좀, 그런데 사실 인력은 33명이라고 언급되어 있는데, 디성센터 인력 확대하시면 33명인데 그게 되게 크게 는 인력 같지가 않거든요. 그런데 그걸 보완하기 위해서 AI라는 기술을 갖고 오신 것 같은데 이게 얼마나 막는 데 효과적일지 잘 와닿지가 않아서요.

<답변> (엄열 과기정통부 정보통신정책관) 차관님 말씀 주셨습니다만 이게 지금 삭제 조치를 할 수 있는 여러 가지 공식적인 절차적인 방심위라는 조직이 있고요. 또, 여가부의 디지털 플랫폼 관련된 신고 조치할 수 있는 여러 가지 거버넌스가 있긴 한데요. 그런 정식적인 절차를 통해서 모든 게 삭제 조치가 되고 있고요.

거기 인력을 늘려서 하면 아까 말씀드린 것처럼 관련된 삭제 조치가 많이 이루어질 수 있다고 보여지고 있고, 이런 것들을 그런 정식적인 라인을 통해서 할 수도 있지만 사업자가 협조를 하면 사업자 단위에서 많이 삭제가 될 수 있습니다.

아예 그런 부분에 대해서는 저희들이 사업자에 대해서 그렇게, 플랫폼 사업자들한테 요청을 하고 있는 거고 그런 기술을 적용하는 사업자들은 아예 원천적인 단계에서부터 딥페이크물이 올라오지 않게 조치를 할 수 있다고 보여지고요. 그런 기술적 측면의 하나가 또 워터마크라고 보여질 수 있습니다. 그래서 다양한 방법을 통해서 대처, 딥페이크물에 대처할 수 있다고 보시면 되겠습니다.

<답변> 첫 번째 한겨레 기자님 질문하신 거는 우리 방통위 국장님께서.

<답변> (신영규 방통위 방송통신이용자정책국장) 아까 텔레그램 부분과 관련해서 이게 제대로, 실질적으로 삭제가 될 수 있을지, 24시간 안에 삭제될 수 있을지 물어보셨는데 일단 텔레그램 측하고는 협의가 잘 되고 있고요, 지금.

방심위 통해서 요청을 했을 때 신속하게 삭제가 이루어지고 있기 때문에 그런 부분 반영해서 정보통신 심의 규정을 개정해서 24시간 안에 삭제하도록 하는 의무를 부과하겠다, 라는 취지입니다. 텔레그램의 경우에는 협조가 잘 되고 있습니다.

<질문> 그런데 다른 데로 옮겨 가면 어떡해요? 만약에.

<답변> (신영규 방통위 방송통신이용자정책국장) 다른, 만약에 다른 데로 옮겨가게 되면, 그런데 기본적으로 해결 방법은 국제 공조밖에는 사실 없습니다. 그래서 계속 저희가 방심위 통해서 여러 개의 국제협의체들과 공조를 하고 있습니다.

그래서 그런 협의체들을 통해서 그 나라의 규제 기관과, 규제 기관을 통해서 그 나라 사업자를 접촉하고 라인을 계속해서 구축해 나가는 형태로 해서, 텔레그림과 동일한 방식으로 할 수밖에는 없습니다.

<질문> *** 비슷하게 핫라인 구축이라든지 그런 게 논의되고 있는 해외 플랫폼 사업자가 있나요?

<답변> (신영규 방통위 방송통신이용자정책국장) 아직은 해외, 주로 인터넷 메신저지 않습니까? 그런데 그런 메신저들이 보안 메신저들인데 시그널이나 아니면 디스코드나 이런 것들이 사용될 수 있습니다.

그런데 아직까지는 그쪽 부분과 관련해서 크게 위협이 노출되고 있는 상황은 아니기 때문에 지금까지는 없고요. 추가적으로 만약에 그런 부분에 문제가 생기면 저희가 또 접촉을 해서 핫라인 구축하고 협조체계를 만들어 나가는 형태로 계속 할 예정입니다.

<답변> (관계자) 아까 질의하신 것 중에, 한겨레 기자님 말씀하신 것 중에 딥페이크 영상물이라는 게 어떤 거냐, 라고 말씀하셨는데 그건 성폭력처벌법 14조의 2에서 사람의 얼굴·신체·음성을 대상자 의사에 반해서 성적 욕망·수치심을 유발한 형태로 합성하거나 해당 합성을 유포한 행위를 딥페이크 그거라고 생각합니다.

<질문> 딥페이크 음란물 같은 경우에는 그러니까 애초에, 당초에 만드는 사람들, 이번에 처벌하시겠다고 발표하신 사람들의 문제도 있지만 사실 그것이 음란물이라고 생각하고 특정 계정을 통해서 복제해서 계속 퍼뜨리고 삭제해도 계속 다시 퍼뜨리는 그런 문제가 더 심각하고 유포가 되는 것으로 알고 있는데요.

인스타그램이라든지 트위터 같은 경우에는 그 해당 게시물을 삭제한다 하더라도 그게 흔적이 남아서 게시물 자체는 없어지더라도 이게 이미지 같은 건 남아 있는 그런 문제들이 있는데 이런 것에 대해서 대책을 세우실 게 있는지, 인스타는 그리고 제가 알기로 협조가 그렇게 잘 안 되는 걸로 알고 있거든요. 그거에 대해서 어떤 대책을 가지고 계신지 궁금하고요.

그리고, 그러니까 가해자들에 대한 처벌 강화를 이야기하셨는데 가해자들을 처벌 강화한다 하더라도, 그러니까 본인이 가해자인지 모르고 그냥 복제, 음란물이라고 생각하고 복제해서 그냥 유포하는 사람들이 있습니다. 이런 사람들에 대해서도 그러면 이제 처벌이 가능한 건지, 그거에 대해서도 가이드라인 세우신 게 있으신지 궁금합니다.

<답변> 이렇게 구체적인 질문이 나올 것 같아서 관계부처 국장님들 다 오셨으니까요. 먼저 방통위에서 하시고 그다음에 법무부...

<답변> (신영규 방통위 방송통신이용자정책국장) 인스타그램 얘기하셨는데 사실은 이게 N번방 사태 이후에 저희 전기통신사업법이 대폭 강화가 됐습니다. 그래서 저희가 불촬물이나 합성물에 대한 조치 의무 사업자를 정했고요.

인스타그램, 메타 같은 경우에 조치 의무 사업자에 포함돼 있고, 조치 의무 사업자의 경우에는 불법 콘텐츠에 대한 삭제 의무뿐만 아니라 기술적·관리적 조치를 할 수 있는 의무를 부과하고 있고요. 저희가 매년마다 그걸 잘 하고 있는지 실태점검도 하고 있습니다.

그래서 저희가 파악한 바로는 아직까지 인스타그램에서 특별하게 저희 기술적 관리 조치를 충분히 달성하지 못한 문제가 발견되지는 않았거든요. 그래서 계속 저희가 모니터링하면서 혹시라도 실태점검을 통해서 문제가 생기면 저희 조치할 수 있습니다.

<답변> (이윤석 법무부 검사) 법무부 이윤석 검사입니다. 기자님께서 말씀하신 음란물로 단순히 생각하고 유포한 사람들에 대한 처벌 방안은 기존 법제에 따라서 음란물을 유포한 행위에 따라 처벌이 가능하고... 가능한 상황입니다.

다만, 이것을 허위 영상물임을 알면서 유포한 자에게는 차관님께서 말씀하신 그런 다양한 법제에 따라서 더 가중처벌이 될 것이고, 단순히 음란물로 알고 유포한 사람에 대해서는 조금 낮지만 그래도 아직, 이미 엄격한 처벌이 이루어진 거로 알고 있습니다. 이상입니다.

<질문> 죄송합니다만 교육부, 교육에 대해서 여쭤보려...

<답변> 예, 나와 계십니다.

<질문> 하나 여쭤보겠습니다. 교육시킬 때 물론 부모들한테 무슨 알림, 어디 전단지 같은 거 다 보내주시겠지만, 참고자료 보내주시겠지만 부모하고 학생하고 같이 선생들과 같이 모여서, 물론 좁은 공간이겠지만 그렇게 교육을 하는 방법이 있습니까? 아니면 전체적으로 모여서 교육을 합니까?

<답변> (관계자) 일단 저희들이 기본적으로는 학생이나 교사들에 대한 예방교육이라든가 연수를 실시하는 걸 기본으로 하고요. 학부모들에 대해서는 예방 대... 딥페이크 대응 매뉴얼이라든가, 또 교육용 콘텐츠를 제공합니다.

그런데 하는 방식이 일단 온라인을 통해서 하는 방법이 하나 있고요. 또, 학교에서 그런 자료들을 안내하는 방법들이 있습니다. 그거는 예를 들면 가정통신문이나 이런 거로 하는 방법들이 있고, 온라인은 함께학교 플랫폼이라든가 이런 걸 통해서 제공하는 방법이 있습니다.

그 외에 학교에서 설명회를 하거나 이럴 때 그럴 때 또 그런 부분들을 안내하고 이럴 수 있기 때문에 다양한 방법으로 학부모들한테도 교육을 하고 있다, 라고 보시면 될 것 같습니다.

<질문> *** 모이나요? 아니면 어느 정도 기간...

<답변> (관계자) 그게 자주 모이고 이런 거는 아니고요. 보통은 학교에서 할 때 학기 초에 학교 전반적인 운영에 대한 설명회를 합니다. 그런 경우가 있을 수 있고요. 그 외에 단체로 모이는 거는 그렇게 많지는 않습니다.

<질문> 알겠습니다.

<답변> (사회자) 이상으로 브리핑을 마치겠습니다. 참석해 주신 모든 기자님들께 감사드립니다.

<끝>

하단 배너 영역