어떤 식으로 작업했는지 궁금해져 작업 과정이 담긴 영상을 시청했는데, 뜻밖에도 해당 그래픽이 '제미나이(Gemini) AI'와 '나노 바나나(Nano banana) AI'를 활용해서 만들어진 AI 작업물이라는 사실을 알게 되었다.
좋은 성능으로 크게 화제가 되었던 구글 인공지능 '나노 바나나(Nano Banana)'는 현재 실무에서도 활발히 사용되고 있다.
그러고 보면 요즘은 생성형 AI를 활용하지 않는 분야가 거의 없는 것 같다는 생각이 든다.
SNS 뿐 아니라, 학부 내에서 광고 글을 작성하거나 디자인할 때도 모두가 너무 자연스럽게 AI를 활용하는 경우를 마주하곤 한다.
접근성이 좋아지면서 AI는 이제 대중적인 한 분야가 되었다고 봐도 과언이 아니다.
놀랐던 점은, 대학뿐 아니라 저연령층의 학생들도 아무 거리낌 없이 생성형 AI 결과물을 뚝딱 만들어낸다는 점이었다.
얼마 전 학과 상담을 다녀온 학교의 한 고등학생이 본인의 학교생활을 들려주어서 처음 알게 되었다.
그렇지 않아도 작문 과제를 하거나 문제 풀이를 할 때 생성형 AI를 활용하는 경우가 흔했는데, 학교에 태블릿 PC 보급이 이루어지면서 더 활발하게 사용하기 시작했다고 했다.
심지어는 실시간으로 AI 부정행위를 저지르는 일도 허다하게 일어난다는 소식에 경악했다.
아예 대놓고 과제물 생성형 AI가 등장하기도 했다. 사용자 이용 비율이 웬만한 논문 조회수보다 많은 것을 확인할 수 있었다.
당장 얼마 전에 대학가 AI 커닝 사건이 크게 이슈화된 적 있기 때문에, 마냥 남의 일 같지 않았다.
주변에서 이런 경우를 자주 마주하다 보니 AI 윤리 문제에 관해서도 관심을 기울이게 되는 요즘이다.
2학기에 들어서는 시점에 학교 수업 공고문으로도 AI 활용 가이드라인을 공지 받았었고, 국가사이버안보센터에서도 생성형 AI 활용 가이드라인을 공고한 적이 있어 혹시 최근에는 어떤 지침이 나왔는지 찾아보았다.
작년 12월 23일, 교육부와 각 시도교육청에서 '수행평가 시 AI 활용 관리 방안'을 마련했다. (출처=교육부 누리집)
지난해 12월 23일, 교육부와 각 시도교육청에서 전국 중고등학교를 대상으로 '수행평가 시 AI 활용 관리 방안'을 마련해 발표했다고 한다.
2026년부터는 중고등학교 수행평가에서 AI를 활용할 경우, 교사가 그 범위를 구체적으로 정해주는 것은 물론 학생들 역시 AI 활용 범위와 내용을 반드시 표기해야 한다.
어떤 방식으로 지침이 정해졌는지 조금 더 구체적으로 살펴보았다.
먼저 학교와 교사는 수행평가를 시행하기 전 AI 금지 행위를 명확히 규정해야 한다.
'AI로 생성한 글이나 이미지 출처를 밝히지 않고 창작물로서 제출하는 행위는 부정행위이다'라는 공지로 학생들이 명확하게 범위를 인지할 수 있도록 해야 한다.
또한 학생들이 자료를 찾거나 결과물을 생성할 때 AI의 도움을 받았다면, 출처를 반드시 표기하도록 지도해야 한다.
학부에 재학하며 제작한 과제물에 대한 AI 출처 표기법이다. 어떤 인공지능을 썼는지, 어떤 프롬프트를 썼는지, 프롬프트 도출 과정이 어땠는지를 기술했다.
학생들은 사용한 인공지능의 종류, 프롬프트 등을 출처로 제시할 수 있다.
AI 친화적인 디자인 학과에 재학하면서 나 역시 이런 형식의 출처 표기법을 자주 사용했었다.
생성형 AI는 엄밀히 말해 창작의 경계가 매우 모호한 분야 중 하나이기 때문에, 사용자의 꼼꼼한 출처 표기가 오해와 부정 활용을 줄이는 데 중요하게 작용한다.
나는 입체 아이콘과 자동 생성 음악을 만드는 데 AI를 활용했었다. 끝에 생성형 AI를 활용한 최종 과제물을 첨부하고, 어느 부분에 AI가 필요했으며, 얼마나 적합하게 사용했는지 구술하고 평가받았다.
생성형 AI가 작업물에 포함된 경우, 어떤 인공지능을 썼으며, 어떤 프롬프트를 작성했고, 프롬프트를 작성하기까지 어떤 과정을 거쳤는지 표기한 후 최종 작업물의 형태를 붙여서 오용의 위험을 줄였다.
그런데 AI 프롬프트를 입력하고 AI를 활용할 때 쉽게 간과하는 주의 사항이 있다.
바로 프롬프트 입력란에 주소, 연락처, 개인정보 등 신상에 불이익을 줄 수 있는 사항은 입력하지 않아야 한다는 점이다.
AI가 크게 대중화되면서 너도나도 생성형 AI를 사용하는 와중에, 정작 AI가 어떤 정보를 수집하고 활용하는지에 대한 경각심은 턱없이 부족한 실정이다.
그 때문에 지침에서도 학생들의 안전을 보호하고 만일의 사고를 방지하기 위해 교사, 학교 측에서 프롬프트 입력 시의 주의 사항을 지도하도록 규정했다고 한다.
AI 카메라 앱, 유명 SNS 등에서도 사용자의 사진을 무분별하게 학습해서 여러 차례 초상권, 인권 등의 문제를 일으킨 적이 있는 만큼, 사용 시 조심하는 태도가 중요하겠다.
당장 이미지를 개선 하는 데만 해도 매우 많은 종류의 AI가 등장해 있다. 자신의 얼굴이 담긴 사진과 개인정보를 거리낌 없이 올려서 AI 작업에 사용하는 경우를 종종 마주치곤 하는데, AI는 어떤 정보를 어떻게 학습하고 왜곡할지 모르는 만큼 정보 제공에 특히 주의해야 한다.
앞으로 중고등학교에서는 AI를 금지하는 대신 공존하는 방향으로 발전할 것으로 보인다.
AI의 활용 자체를 금지하기는 어려운 상황인 만큼, 활용의 정도가 부정행위로 이어지지 않도록 규칙을 엄격하게 정했다.
특히 AI가 활용한 글을 그대로 제출하거나, AI 문제 풀이를 그대로 베껴 제출하는 방식처럼, 불공정한 평가로 이어질 수 있는 활용 방식은 금지 조항으로 기재되었다.
더불어 결과물만 제출하는 방식으로는 학생의 사고력과 AI를 구분하기 어렵기 때문에, 과정 중심의 평가로 변화한다고 밝혔다.
실시간 활동 중심의 평가를 주축으로, 수업 시간 내에 교사가 직접 학생의 활동 과정을 볼 수 있는 방안으로 보다 공정한 평가가 이루어질 예정이다.
'수행평가 시 AI 활용 관리 방안'은 교육부 누리집에서 확인할 수 있다. (출처=교육부 누리집)
현재 배포된 '수행평가 시 AI 활용 관리 방안'은 교육부 누리집에서 전문 확인 가능하다.
이 누리집은 대한민국 공식 전자정부 누리집입니다.
