국민이 함께 만드는 AI 안전망, 생성형 AI 이용자 참여 플랫폼

"이 영상 한번 봐봐, 전문가가 설명해 준대."

얼마 전 아버지께서 건강기능식품을 소개하는 영상을 보내주셨다.

겉보기에는 학회 소속 전문의가 나와 제품 효능을 자세히 설명하는 방송이었다.

그런데 자세히 보니, 실제 사람이 아닌 AI로 생성된 '가짜 전문가' 영상이었다.

말투와 표정, 자막까지 너무 자연스러워 얼핏 보면 구분이 어려웠다.

이를 통해 AI가 이미 일상 깊숙이 들어왔다는 것을 실감하게 되었고, 동시에 신뢰할 수 있는 정보 제공과 위험 제보 창구가 필요하다고 느꼈다.

그런 고민을 하던 중 찾게 된 곳이 방송미디어통신위원회가 운영하는 '생성형 AI 이용자 참여 플랫폼'이다.

◆ 내가 겪은 AI 위험, 내가 직접 신고한다

'생성형 AI 이용자 참여 플랫폼' 은 AI 이용 중 겪은 위험 및 불편 사례를 제보하고 관련 통계·분석 정보를 확인할 수 있는 전문 플랫폼이다.

시민 제보자(위험 발견), 전문 검증단(신뢰성 확보), AI 사업자(자율 개선), 규제 기관(제도 보완)의 네 주체가 유기적으로 협력하는 거버넌스 체계이다.

플랫폼에 접속해 보니 신고-검증 처리-피드백을 한 곳에서 할 수 있도록 구성되어 있었다.

허위 정보, 저작권 침해, 불법 범죄 방조, 개인정보 침해 등 일상에서 접할 수 있는 다양한 위험 유형이 한눈에 정리되어 있고, 각 항목을 누르면 구체적 사례도 안내되어 있다.

특히 인상 깊었던 점은 프롬프트(질문 내용)까지 제출하게 되어 있다는 부분이다.

어떤 질문을 어떻게 했을 때 문제가 발생했는지 함께 제출하게 되어 있어, 단순한 민원 접수가 아니라 정확한 분석과 방지 대책을 만드는 데 필요한 기반 데이터가 축적되겠다는 생각이 들었다.

또한 신고 접수 후에는 처리 상황 및 결과를 직접 확인할 수 있어, 이용자가 변화를 만들어가는 주체로 참여할 수 있다는 점이 의미 있게 느껴졌다.

◆ 친구들과 가족들의 경험을 들어보다

플랫폼을 둘러본 후, 가족과 가까운 친구들에게 최근 AI 사용 경험을 물어보았다.

이미 일상 속에서 다양한 위험을 마주하고 있었다.

먼저 어머니는 얼마 전 건강 정보를 검색하다가 AI가 만든 가짜 전문가 영상을 실제 의료 정보로 믿은 경험이 있다고 하셨다.

영상 속 인물은 전문의처럼 말하고 있었지만, AI로 생성되어 허위 정보를 전달하는 영상이었다.

어머니는 "겉보기엔 너무 자연스러워 전혀 의심하지 못했다" 라며 "이런 영상이 더 늘어나면 중장년층은 구별하기 더 어려울 것 같다" 라고 걱정하셨다.

대학생 친구 역시 과제 준비 과정에서 AI가 만들어낸 잘못된 정보로 혼란을 겪은 적이 있다고 전했다.

역사 발표를 준비하며 AI에게 정리를 요청했는데, 문장 구조와 어투가 자연스러워 사실처럼 보였지만 실제로는 사실이 아닌 내용이 포함되어 있었다고 한다.

이처럼 세대는 다르지만 "AI가 너무 자연스러워 판단이 어렵다", "어디에 신고해야 하는지 몰랐다" 라는 공통점이 있었다.

인공지능 기술을 활용하는 방식은 각자 다르지만, 관련 위험은 누구에게나 쉽게 다가올 수 있다.

생성형 AI 이용자 참여 플랫폼이 이러한 공백을 채워주는 역할을 하고 있다는 점이 가치 있게 느껴진다.

◆ AI가 일상이 된 지금, 편리함보다 '안전'이 더 중요하다

인공지능 기술이 빠르게 확산되는 만큼 위험도 함께 늘어나고 있다.

위험을 줄이고 안전한 AI 생태계를 만드는 데에는 정부의 정책뿐 아니라 우리 모두의 참여가 함께 필요하다.

'생성형 AI 이용자 참여 플랫폼'은 단순한 신고 창구를 넘어, 국민이 정책 과정에 직접 참여하고 AI 이용 문화가 더 건강하게 자리 잡도록 이끄는 참여형 안전 생태계의 출발점이다.

앞으로 더 많은 이용자가 이 플랫폼을 활용해 AI 위험을 함께 예방하고, 모두가 안심하고 AI 기술을 사용할 수 있게 되기를 기대한다.

☞ 생성형 AI 이용자 참여 플랫폼 누리집(ai.wiseuser.go.kr)

☞ (보도자료) "생성형 인공지능 불편사항 제보하세요"

정책기자단|편수정sujungai1110@gmail.com

세상을 움직이는 정책, 그 이야기를 전합니다.