AI 악용 등 가짜뉴스 엄정 대응을 위한 검경 합동 담화문 발표

<구자현 검찰총장 대행>
존경하는 국민 여러분, 저는 오늘 AI 등을 악용하여 제작한 가짜뉴스에 대응하기 위한 정부 차원의 관계장관회의에 검찰을 대표하여 참석하였습니다.

최근 인공지능 기술이 발전하고 사회적 갈등이 심화되면서 딥페이크 영상 등을 이용한 가짜뉴스가 실제와 구분하기 어려울 정도로 정교해졌으며, 또 온라인과 모바일 환경을 통해 광범위하고 무분별하게 유포되는 실정입니다.

이러한 허위정보의 제작과 유포 행위는 개인의 명예를 심각하게 훼손할 뿐만 아니라 주요 현안에 관한 사회적 불안을 조성하며 그 피해의 규모가 매우 크고 사실상 회복이 불가능합니다.

이에 우리 사회는 공직선거법 개정을 통해 선거를 앞둔 일정 기간 딥페이크 영상 등을 이용한 선거 운동, 또 딥페이크 영상임을 표시하지 않은 허위사실 유포 등에 대해 처벌규정을 신설해서 2024년 1월부터 시행하고 있습니다.

국민 여러분, 올해 6월 3일에 예정된 제9회 전국동시지방선거가 100일도 채 남지 않았습니다. AI 기술이 재빠르게 발전하고 선거 운동의 장이 온라인과 미디어를 중심으로 이동하는 현실을 고려하면 가짜뉴스를 이용한 선거 범죄는 선거일이 다가올수록 급증할 것으로 우려됩니다.

허위사실 유포 등 흑색선전은 유권자에게 잘못된 정보를 제공함으로써 선거인의 공정한 판단에 직접적인 영향을 미친다는 점에서 매우 중대한 선거 범죄입니다.

검찰은 제9회 전국동시지방선거를 앞두고 가짜뉴스를 유포하는 선거사범에 대하여 가능한 모든 수단을 동원하여 엄정히 대응하겠습니다.

과학수사 등 모든 수사기법을 활용해 범행을 낱낱이 규명하는 한편, 해외 서버를 이용하는 범죄 등도 국제 사법 공조를 통해 끝까지 추적할 것이며, 적발된 사범에 대하여는 죄에 상응하는 무거운 형이 선고될 수 있게 공소 유지와 구형에도 철저를 기함으로써 이러한 범죄가 우리 사회에 발붙이지 못하도록 하겠습니다.

또한, 이번 지방선거의 경우 종전 지방선거와 비교하여 허위사실 유포 사범과 함께 금품수수 사범이 큰 폭으로 증가하는 경향을 보이고 있습니다.

검찰은 가짜뉴스 등 허위사실 유포 및 흑색선전 사범은 물론 선거 관련 금품수수, 공무원의 불법 선거 개입, 선거 관련 폭력 행위를 중점 단속 대상 범죄로 정해 엄정히 대응하고 있습니다.

대검찰청은 지난 1월 이미 각급 검찰청에 선거전담수사반을 구성하고 비상연락체계를 가동하는 등 비상근무체계에 따라 선거사범 대응에 만전을 기하도록 지시하였고, 현재 단계별 계획에 따라 각자 맡은 임무를 다하고 있습니다.

또한, 전국 선거전담부장검사회의를 통해 선거 범죄 대응 방안을 논의하고 수사 노하우를 공유하는 등 선거 범죄 수사 역량 강화를 위해서도 노력할 예정입니다.

그밖에도 국가 전체적인 선거 범죄 대응 역량 강화를 위해 경찰이나 선관위 같은 유관기관과도 긴밀하게 협력해 나가도록 하겠습니다.

국민 여러분, 건강한 비판과 토론은 존중받아야 하지만 근거 없는 비방과 허위사실의 유포는 우리 사회를 병들게 합니다. 검찰은 이번 지방선거가 공정하고 깨끗하게 치러져 우리 사회에 올바른 선거 문화가 확고히 정착될 수 있도록 그 어느 때보다 비상한 각오로 최선을 다하겠습니다.

감사합니다.


<유재성 경찰청장 대행>
경찰청장 직무대행 유재성입니다.

경찰의 허위·조작정보 대응 현황과 향후 계획을 말씀드리겠습니다.

유튜브 등 SNS가 사회에 미치는 영향력이 지대해지면서 허위·조작정보가 무분별하게 확산되는 부작용이 있습니다.

최근에는 인공지능 기술을 악용한 딥페이크 영상, 합성 음성, 조작 이미지로 인해 허위·조작정보와 실제 사실과의 구별이 훨씬 더 어려워졌으며, 이로 인한 사회적 혼란이 발생하고 있습니다.

이에 경찰은 허위정보 확산을 막기 위해 지난해 10월 14일부터 허위정보 유포 등 단속 T/F를 구축하여 운영하고 있습니다.

먼저, 중요 사건들은 시도 경찰청에서 직접 수사하도록 함으로써 신속하고 엄정하게 대응하고 있습니다.

대표적으로 '한국에 하반신이 없는 시체가 수십 구 발견되었다.'라는 허위 내용을 유포한 유튜버를 수사 착수 하루 만에 특정해서 지난 2월 13일 송치하였습니다.

또한, 인공지능으로 조작된 영상을 경찰관의 실제 바디캠 영상인 것처럼 유포한 유튜버도 신속하게 인적사항을 특정한 뒤 여죄들까지 파악하여 지난 1월 28일 송치하였습니다.

아울러, 경찰청은 올해 1월 2일부터 매크로 등 조직적·전산적 방법을 이용한 허위정보 관련 범죄 집중단속을 진행하고 있습니다.

특히 매크로 등 자동화 수단을 활용한 허위정보 유포는 확산 속도로 인해 피해가 심화되기 때문에 전산을 활용한 조직적 유포 행위는 시도 경찰청 사이버수사대가 직접 수사하는 등 더욱 엄정하게 대응할 방침입니다.

경찰은 집중단속 시작 이후 현재까지 총 110명을 검거하였고, 199건에 대해서는 수사 중에 있습니다.

한편, 허위·유해정보 1,074건에 대해 관계기관에 삭제·차단을 요청했습니다.

향후 계획입니다.

다가오는 지방선거를 앞두고 선거의 공정성과 민주주의 질서를 훼손하는 허위·조작정보에 대해서는 무관용 원칙에 따라 대응할 방침입니다.

경찰청은 2월 3일부터 전국 경찰관서에 선거사범수사전담반을 편성, 허위사실 유포 포함 5대 선거 범죄를 집중 단속 중입니다.

특히 딥페이크 이용 선거 범죄는 유통경로를 추적하여 최초 유포자, 제작자까지 엄정하게 처벌하겠습니다.

허위·조작정보는 개인의 문제가 아니라 사회 전체의 신뢰를 무너뜨리는 범죄입니다. 국민 여러분께서는 출처가 불분명한 정보는 공유를 자제해 주시고 의심스러운 콘텐츠는 관계기관에 신고하여 주시기 바랍니다.

경찰은 표현의 자유를 존중하되, 사회 혼란을 야기하는 허위·조작정보에 대해서는 법과 원칙에 따라 단호하게 대응하도록 하겠습니다.

감사합니다.


[질문·답변]
※마이크 미사용으로 확인되지 않는 내용은 별표(***)로 표기하였으니 양해 바랍니다.

<질문> 질문드리겠습니다. 여기 내용을 보겠는데요. 무관용 원칙이라고 말씀하셨는데, 물론 무관용 원칙이 당연한 건데 여기에 미성년자, 어린 아이도 포함이 되는 건지 모르겠습니다. 어린 아이들은 무분별하게 이런 내용을, 딥페이크라든지 이런 내용을 유포해서 나이 먹은 사람들을 괴롭히고 있는 이런 식 많이 보았는데 지금 이것이 하루이틀 문제가 아니고, 물론 선거 때기 때문에 정말 강력하게 대처한다는 말씀 들었는데, 어린 아이, 미성년자기 때문에 좀 용서가 가능하고 처벌 수위가 낮아지고, 그렇게 되면 이건 다시 되풀이되는 그런 범죄 행위가 되는데 그거 하나 여쭤보고 싶고요.

그다음에 표현의 자유가 어디까지인지는 모르겠지만 여기 말씀 보니까 허위사실 유포, 딥페이크 영상임을 표시하지 않은 허위사실 유포인데 그러면 표시하면 괜찮은 건지, 표시해 놓고도 영상이 나쁘고 그러면 당하는 사람 입장에서는 상당히 괴롭고 인생이 좌우되는 아주 안 좋은 일이 발생되는데 이런 허위사실 유포에 대해서 표시, 딥페이크 영상임을 표시하지 않은 허위사실, 그러면 표시하는 거하고 표시하지 않은 거하고 어떻게 구별될 것인가, 그걸 좀 한 두 가지만 말씀드리겠습니다. 여쭤보겠습니다. 설명 좀 부탁드립니다.

<답변> (유재성 경찰청장 대행) 미성년자 처벌 관련해서 말씀을 하셨는데 현재 14세 이상에 대해서는 형사처벌이 가능하고, 또 촉법소년 그 이하 연령에 대해서는, 촉법소년에 대해서는 또 촉법소년에 따른 그런 처벌이 이루어집니다. 그래서 그런 부분들은 다른 범죄 대응과 크게 달라질 점이 없다는 부분을 말씀드리고요.

어쨌든 경찰이 허위·조작정보에 대해서 엄정하게 단속을 하고 있는데 여러 가지 유형이 있습니다. 그런 선거 관련된 그런 부분도 있고, 또 개인의 그런 명예 훼손하는 부분도 있고, 또 심지어는 사회적 참사를 이용한 그런 부분에 대해서도 이렇게 허위·조작정보가 유통되고 있기 때문에 그런 부분, 또 여러 가지 유형의 그런 또 허위신고를 이용해서 경찰력이라든지 공권력을 낭비하는 그런 사례도 있고, 그래서 여러 가지 유형의 허위·조작정보들이 있는데 그런 부분들에 대한 대응에 있어서는 미성년자가 다른 범죄에 대해서 이렇게 처벌하는 규정이 있듯이 동일한 기준으로 이렇게 적용할 예정입니다.

<답변> (구자현 검찰총장 대행) 뒤에 부분 관련돼서 저도 말씀을 좀 드리겠습니다. 오늘 자리가 선거 범죄 관련된 부분이어서 그 부분에 대해서 한정해서 말씀을 드리면 공직선거법상 지금 선거일 기준으로 90일 전까지는 기자님께서 질문 주셨던 것처럼 이게 딥페이크 영상임을 알리고, 그다음에 그 출처가 어디인지를 알리게 되면 그 부분에 대해서는 형사 책임을 묻지는 않고요. 대신 90일 이내, 그러니까 이번 선거 같으면 3월 5일 기준이 되는데 3월 5일이 지났을 때는 표시 여부를 불문하고 딥페이크 영상으로 인해서 선거에 미친 행위들은 형사처벌 대상이 되도록 규정하고 있기 때문에 그 기준을 가지고 살펴보시면 될 것 같습니다.

<질문> 잘 알겠습니다.

<답변> (사회자) 더 이상 질문 없으시면 브리핑을 모두 마치도록 하겠습니다. 감사합니다.

<답변> (구자현 검찰총장 대행) 고맙습니다.

<끝>