얼마 전 TV에서 방송을 보다가 '참고 자료'라는 제목으로 제시되는 영상이 묘하게 이질적이어서 눈여겨봤었다. AI 합성물이라고 하기에는 영상 속 사람의 모습이나 물건, 배경의 배치가 지나치게 사실적이었고, 실제로 촬영했다고 하기에는 피부 질감이나 눈빛 등에서 이질감이 느껴졌다.
방송을 통해 접한 AI를 활용한 영상 제작물. 무척 사실적이라 힐끗 보고 실제 촬영한 것인 줄 알았다.
나보다는 평소 TV를 자주 시청하는 엄마에게 요즘 영상들은 저렇게 나오느냐고 물었더니, 전부 AI를 활용한 영상을 참고 자료로 제시하고 있는 거라고, 요즘 그런 영상을 활용한 방송이 TV에 자주 나온다고 말씀해 주셨다.
AI를 활용해 만든 영상이라는 표시가 화면 상단에 작게 표시돼 있다.
놀라서 영상을 다시 보니 화면에 AI 생성물이라는 문구가 적혀 있었다. 유심히 보지 않으면 실제 촬영본과 구별하기 어려울 정도로 정교해 놀라우면서도 한편으로는 오싹하게 느껴지기도 했다.
◆ 세계 최초 국내 '인공지능기본법' 전면 시행
그런 와중에 지난 1월 22일, 세계 최초로 국내에서 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 인공지능기본법)'이 전면 시행됐다고 한다.
'인공지능기본법'은 세계에서 두 번째로 제정됐지만, 실제로 해당 법안이 전면 시행된 것은 우리나라가 세계 첫 번째이다.
특히 AI를 특정 분야의 개별 규제가 아닌 포괄적인 상위 법률로 규정한 것은 세계 최초다. 이는 AI의 건전한 활용을 촉진하면서도 위험성이 높은 오남용을 예방하는 데 초점을 맞췄다.
주목할 점은 "인공지능기본법은 전기통신사업법과 정보통신망법 등 기존 법체계가 AI 발전 속도를 따라가지 못하고 있다는 문제의식에 따라, AI 기술 및 산업과 관련해 다른 법률에 특별한 규정이 없는 경우 우선 적용되는 포괄적 상위법"이 된다고 부분이다.
이에 따라 법안 제정 시 고영향 AI 규제, 사용 표시 및 설명 가능성 의무 등이 가장 큰 영향을 받을 것으로 보인다.
◆ 고영향 AI가 무엇일까?
이는 의료, 에너지, 채용, 대출 심사 등 국민의 생명이나 권리에 중대한 영향을 미칠 수 있는 분야에 활용되는 AI이므로, 해당 AI를 제공하는 사업자는 사람이 관리하고 통제하는 체계를 구축하고 안전성 확보 조치를 마련해야 한다고 한다.
또한 생성형 AI를 활용한 제품 및 서비스는 AI 기반으로 운용된다는 사실을 이용자에게 사전에 알려야 하며, 생성형 AI 결과물에는 표시 의무가 부과된다고 한다. 이러한 내용을 살펴보면 앞으로 AI를 활용한 생성물을 보더라도 실물 촬영본이나 사람이 생성한 창작물과 구분할 수 있을 거라는 생각이 들었다.
이번 법안 시행을 통해 AI 생성물의 활용 범위에 대한 고민도 해결할 수 있을 것으로 보인다.
얼마 전, 포장용 패키지를 디자인해 볼 일이 있었다.
해당 패키지에 들어가면 좋을 적절한 그림을 찾지 못했었다. 내가 일러스트 도구을 활용해 원하는 그림을 직접 그릴 수 있었다면 좋았겠지만, 여건이 마땅치 않아 종이에 원하는 분위기의 그림을 그리고 AI에게 해당 그림을 조금 더 손봐달라고 요청했었다.
생성형 AI에게 내가 그린 그림과 참고 자료를 보여주고, 해당 그림의 분위기를 살린 그림을 제작해달라고 요청했더니 결과물을 만들어주었다.
내가 원하는 방향의 그림은 생성되었지만, 고민은 멈추지 않았다.
AI가 그린 그림을 패키지에 활용할 경우, 표시 의무를 어떻게 지켜야 하는 건지 헷갈리기 시작했다.
'이것을 AI가 생성한 그림이라고 하며 이용해도 되는 건가?'
'아니면 저작권 위반에 걸릴 위험이 있는 건가?'
'패키지를 이용하는 사람들에게는 구체적으로 어떤 정보를 표시해 줘야 하는 거지?'
끝없이 고민하다 끝내 그 그림을 사용하지 못하고 다른 그림을 찾아 디자인을 마무리해야 했다.
인공지능기본법 지원데스크는 인공지능기본법에 대한 기업의 궁금증을 해소해 주는 곳으로, 인공지능기본법으로 인해 회사에서 제공하는 서비스가 어떤 영향을 받는지 그 궁금증을 과기정통부와 전문 기관(NIA, TTA, KISDI, AISI)과 함께 풀어주는 곳이라고 한다.
인공지능기본법 지원데스크에서 문의하고자 하는 내용에 맞는 분야를 선택하여 담당 전문 기관의 답변받을 수 있다.
인공지능기본법은 조항별로 전담 기관이 지정돼 있어, 문의 내용에 적합한 분야를 선택해 상담받을 수 있다
나는 인공지능기본법 제31조에 따라 '생성형 인공지능 투명성' 항목에서 상담을 진행했다.
해당 창구에서는 인공지능 기반 서비스나 생성 결과물을 제공할 때 이용자에게 알려야 할 사항과 방법 등을 안내한다.
인공지능기본법 지원데스크를 통해 상담받을 수 있었다.
나는 해당 창구에서 '표시 의무가 적용되는 경우를 정확하게 알고 싶다'라고 문의했다.
'콘텐츠 및 미디어(광고·마케팅·음악·이미지·게임·웹툰) 분야에서 일반적으로 생성형 AI 서비스를 이용하여 콘텐츠를 제작하는 사업자에게는 표시 의무가 없지만, 생성형 AI를 탑재한 웹툰 및 이미지 제작 서비스를 제공하는 인공지능 사업자에게는 표시 의무가 있다'라는 답변을 받을 수 있었다.
앞서 방송에서 생성형 AI 영상을 본 것과 관련해 문의한 결과, 방송·언론·출판 분야에서 제미나이나 챗GPT 같은 서비스를 이용해 동영상과 이미지를 생성하여 활용하는 방송사와 언론사 등은 표시 의무가 없다는 답변을 받을 수 있었다.
인공지능기본법에 따르면 콘텐츠를 직접 제작해 서비스를 '활용하는' 이용자에게는 표시 의무가 없으나, 생성형 AI 서비스를 '제공하고 운영하는' 인공지능 사업자에게는 표시 의무가 있다고 한다.
다만 이용자에게 법적 표시 의무가 없더라도 AI 생성물 활용으로 관계 법령을 위반하는 경우 제재를 받을 수 있으므로, AI 생성물 이용 시 이 점에 유의해야 한다.
◆ 안전한 활용의 핵심은 '투명성'과 '책임감'
평소 AI를 활용한 생산물을 어디까지 이용하고 공개할 수 있는 건지에 대한 의문이 많았는데, 인공지능기본법 및 인공지능기본법 지원데스크 덕분에 생성형 AI를 활용할 수 있는 범위 및 이용 시의 주의 사항에 대해 명확하게 알 수 있었다.
앞으로 생성형 AI가 더 발달함에 따라 일상에서 AI와 관련된 다양한 의문을 맞닥뜨릴 수 있을 것 같다.
가장 중요한 건 저작권을 올바르게 지키는 것과, AI로 사람에게 부정적인 영향이나 위험을 주지 않는 것에 있으니, 안전하게 AI를 활용하는 방법을 익히기 위해 해당 법안을 꼼꼼하게 확인하고, 필요하다면 인공지능기본법 지원데스크를 적극적으로 활용해 보면 좋겠다!
이 누리집은 대한민국 공식 전자정부 누리집입니다.
(1).jpg)
.jpg)
(1).jpg)
