본문 바로가기 목차 바로가기
대한민국 정책브리핑

정책위키한눈에 보는 정책

인공지능(AI)

최종수정일 : 2021.06.01.

1. 인공지능(AI)이란?

1956년 AI개념 정립 → 1970년 중반 1차 암훅기 → 1980년 후반 2차 암흑기 → 2010년 딥러링 → 2011년 왓슨 제퍼디쇼 우승 → 2016.3 알파고 바둑 우승 → 2017.1 알렉사, CES 장악 → 2017.12 알파고 제로 등장 → 2021 AI칩 상용화 → 2020 유사 전이 학습 AI → 2026 뇌기계 인터페이스(BMI) → 2029 상황변화 적응학습, 맥락기반 상황인지 → 2030 비지도 학습 AI, 인간지능응ㄹ 넘어서는 차세대 AI 기술로 발전
▲ 인공지능 기술의 성장 (출처=과학기술정보통신부 웹진)

인공지능(AI; Artificial Intelligence)은 인간의 지적능력을 컴퓨터로 구현하는 과학기술이다. 상황을 인지하고 이성적·논리적으로 판단·행동하며, 감성적·창의적인 기능을 수행하는 능력까지 포함한다. 2000년대 들어 컴퓨팅 파워가 성장하고 우수한 알고리즘 등장, 스마트폰 보급과 네트워크 발전으로 데이터가 축적되면서 인공지능은 급속히 진보했다.

단순한 신기술이 아닌 산업·사회 구조의 광범위한 변화를 불러오는 혁신 기술로 국민 삶의 질과 국가 경쟁력 강화를 위한 4차 산업혁명을 이끌 핵심동력이다.

1차 산업혁면 증기기관 18세기 → 2차산업혁명 전기에너지 19~20세기 초 → 3차 산업혁명 컴퓨터, 인터넷 ICT 인간의 계획의 프로그래밍 20세기 후반 → 4차 산업혁명 인공지능+빅데이터, 초연결 방대한 데이터 반복학습, 산업의 변혁, 사회의 진보, 삶의 변화 *자료: 4차산업혁명위원회(재구성)▲ 산업혁명의 변화와 영향력 비교 (출처=인공지능 국가전략 / 2019.12. 관계부처 합동)

[각 분야 인공지능(AI) 활용사례] [복지] 어르신의 말동무이자 보호자, 김포시 챗봇 ‘다솜이’ 어르신이 30분 이상 말이 없으면 먼저 말을 걸고 5시간 이상 움직임이 없을시 보호자·생활관리사 자동연결 [교육] 학생과 영어로 대화하는 서울 교육청 영어 보조교사 인공지능(AI) 기술을 활용한 ‘인공지능 (AI) 영어교사’가, 영어회화, 퀴즈 출제 등 영어 교사 수업보저 (학생별 말하기 체크) [제조] 세계경베포럼(WEF)이 국내 최초‘등대공장’으로 선정한 포크코 제2열연공장 공장 내 수십 개 센서를 통해 제조 환경 데이터를 수집·분석, 인공지능(AI)이 최적의 환경을 유지해 에너지 투입량 2% 감소, 연간 10억 원 절감 [농업] 작물에 따라 환경제어가 가능한 ‘플랜티 큐브’ 지능화 기술을 활용해 농장 규모와 작물 수요에 따라 환경을 제어해 고품질 작물으 연 최대 13회까지 수확할 수 있는 컨데이너 농장 [치안] 불법촬영 피해 여성들의 눈물을 닦아주는 인공지능(AI) 인공지능(AI)이 온라인 상에 유포된 불법촬영물을 신속히 찾아 삭제 지워(’19.7월, 과기부정통부·여가부 공동 개발)(출처=인공지능 국가전략 / 2019.12. 관계부처 합동)

참고자료

[웹진] 인공지능 시대, 우리나라의 R&D 전략은? (2018.06. / 과학기술정보통신부)[카드뉴스] 다이어트, 인공지능과 함께해요! (2019.06.27. / 산업통상자원부)[정책뉴스] 인공지능으로 디지털 성범죄 영상물 유포 막는다 (2019.07.23. / 과학기술정보통신부)

2. AI 시대, 국가전략의 필요성

세계는 인공지능(AI)의 급속한 발전으로 인해 산업과 사회 전반에 걸친 거대한 문명사적 변화를 맞이하고 있다. 과거 산업화 과정에서는 기계가 인간의 육체노동을 대체했고, 이제는 인공지능(AI)이 인간의 지적 능력을 수행하는 수준까지 발전했다. 인공지능(AI)은 막대한 부가가치를 창출하는 산업인 동시에 일자리 변동과 같은 사회변화를 가져오는 핵심 요소다. 고령화 사회의 국민 건강, 노인돌봄, 범죄 대응, 맞춤형 서비스 등 사회가 당면한 여러 문제의 해결에 활용할 수 있다. * 2030년까지 전 세계 기업 70%가 인공지능(AI) 활용, 세계 GDP 13조 달러 추가 성장 예상(맥킨지, ‘18)* 경제협력개발기구(OECD) 회원국의 일자리 자동화 확률은 평균 14%, 한국은 10% 수준 전망(‘19)

세계 주요국들은 4차 산업혁명에 성공적으로 대응하고 인공지능(AI) 주도권을 확보하기 위한 노력을 기울이고 있다.

- 미국 (AI 이니셔티브 행정명령(’19.2) 등)연구개발(R&D)과 인력에 대한 정부의 장기적·선제적 투자를 통해 민간의 자생적 경쟁력을 높이고, 인공지능(AI) 투자에 우선순위 부여⇒ 민간이 추진하기 어려운 차세대 연구개발(R&D)과 군사안보 분야 활용에 중점

- 중국 (차세대 인공지능 발전규획(’17.7))정부 주도의 데이터, 인공지능(AI) 분야 대규모 투자·인력양성을 추진하고, 선도기업을 지정해 산업별 특화플랫폼* 육성* 바이두(자율차), 알리바바(스마트 도시), 텐센트(의료/헬스), 아이플라이텍(음성)⇒ 정부 주도로 자국 기업을 활용한 산업별 플랫폼 구축, 막대한 데이터를 축적해 인공지능(AI) 경쟁력 확보

- 일본 (AI 전략 2019(’19.3) 등)산업활력 제고와 저성장·고령화 등 사회문제 해결을 위한 수단으로 인공지능(AI) 기술혁신을 가속화하고 응용인재 연 25만 명, 고급인재 연 2,000명과 최고급인재 연 100명 양성⇒ 산업경쟁력 확보와 함께 사회문제 해결을 주요 과제로 인식

- 영국 (AI Sector Deal(‘18.4)) 산업 생산성을 높이기 위해 인공지능(AI) 글로벌 기업 유치, 인공지능(AI) 환경구축, 인력양성 등 5개 분야별 정책 제안⇒ 민간협력 기반으로 인공지능(AI) 인재양성과 산업 환경조성에 투자 집중

정부는 인공지능(AI)시대를 맞아 4차 산업혁명위원회를 설립하고(’17.11) DNA(Data·Network·AI)를 3대 혁신 신산업으로 삼아, 분야별 대책을 발표*하고 지원을 대폭 늘려왔다. * 인공지능(AI) R&D 전략(’18.5), 데이터 산업 활성화 전략(‘18.6), 시스템 반도체 전략(‘19.4), 세계 최초 5세대 이동통신(5G) 및 5G+ 전략(‘19.4), 제조업 르네상스 전략(’19.6) 등

문재인 대통령은 2019년 10월 ‘인공지능 기본구상’ 을 통해 “개발자들이 마음껏 상상하고, 함께하고, 도전할 수 있도록 인공지능 분야를 국가차원에서 육성하겠다”고 밝혔다.

참고자료

[대통령 연설문] 마음껏 상상하고 도전할 수 있는 인공지능 시대 –인공지능 회의현장 방문 (2019.10.28. / 청와대)[정책뉴스] 인공지능 정부 대통령이 직접 챙긴다 (2019.11.04. / 공감)

3. AI 국가전략

정부는 2019년 12월 17일, 경제·사회 전반의 혁신 프로젝트로서 과학기술정보통신부를 비롯한 전 부처가 참여해서 마련한 ‘인공지능(AI) 국가전략’을 발표했다. 인공지능(AI) 강국으로 도약할 수 있도록 비전과 실행과제를 제시하고, 우리나라의 강점을 극대화할 수 있는 고유의 전략을 마련했다.

• [보도자료] 인공지능(AI)) 국가전략 발표 (2019.12.17. / 관계부처 합동)

특징

이 전략은 우리의 강점을 살려 잘할 수 있는 분야에 선택과 집중을 추구하는 동시에 인공지능(AI) 기술·산업의 경쟁력 강화뿐만 아니라 사람 중심의 인공지능(AI) 실현을 위한 추진과제를 균형 있게 담은 점이 특징이다.

① 세계 최고의 메모리 반도체 경쟁력을 지렛대로 활용해 인공지능(AI) 반도체 경쟁력 세계 1위 목표로, 핵심기술 확보와 신개념 반도체(PIM*) 개발에 전략 투자 강화 * Processing-In-Memory: CPU 중심 컴퓨팅을 뇌 모방이 가능한 메모리 중심 컴퓨팅으로 바꾸는 반도체 (현재의 메모리-프로세서의 속도효율 저하, 전력증가 문제해결 기대) ② 어릴 때부터 쉽고 재미있게 소프트웨어(SW)와 인공지능(AI)을 배우고 모든 연령·직군에 걸쳐 전 국민이 기초 역량을 습득할 수 있는 교육체계 구축 ③ 최첨단 정보통신(ICT) 기반을 토대로 세계적 수준의 전자정부를 넘어서는 인공지능(AI) 기반 차세대 지능형 정부로 탈바꿈, 수준 높은 공공서비스를 제공 ④ 혜택을 모든 국민이 고루 누릴 수 있도록, 일자리 안전망 확충, 인공지능(AI) 윤리 정립 등을 통해 사람 중심의 인공지능(AI) 시대를 만드는 정책적 노력 강화

3대 분야 9대 추진 전략

[1] 세계를 선도하는 인공지능(AI) 생태계 구축

1) 인공지능(AI) 인프라 확충① 양질의 데이터 자원 확충을 위한 공공데이터 전면 개방(’~21) ② 데이터 생산·유통·활용을 지원할 공공-민간 데이터 지도의 연계(’21)③ 민간의 인공지능(AI) 개발 지원을 위한 인공지능(AI) 중심(허브) 컴퓨팅자원 맞춤형 지원* * (’19) 200개 기관, 각 20TF(Tera Flops) → (’20) 800개 기관, 10~40TF 차등 지원④ 지역 산업과 인공지능(AI) 융합의 거점, 광주 인공지능(AI) 집적단지 조성(’20~’24)⑤ 거점 특성을 고려한 전국 단위 ‘ 인공지능(AI) 거점화 전략’ 수립(’20)

2) 인공지능(AI) 기술경쟁력 확보① 인공지능(AI) 반도체 세계 1위 도약 - 인공지능(AI) 반도체 핵심기술*(설계·미래소자·장비 및 공정 등)과 신개념 인공지능(AI) 반도체(PIM) 개발* 차세대 지능형 반도체 1조 96억 원 투자(’20~’29)② 창의적·도전적 차세대 인공지능(AI) 연구개발* 선제 투자(’20~)* 차세대 인공지능(AI) 개발사업 예비타당성조사 추진 → 2030년까지 핵심기술 5개 이상 확보③ 인공지능(AI) 기초연구 강화 : 지식표현 및 추론, 기계학습 알고리즘, 인지과학 등 (’20. 예타 추진)④ 선의의 경쟁과 창의적 도전을 촉진할 인공지능(AI) 연구개발* 확대* 서바이벌 방식의 ’경쟁형‘, 국가 사회 현안을 인공지능(AI)로 해결하는 ‘챌린지형(경진대회)’

3) 과감한 규제혁신과 법제도 정비 ① 인공지능(AI) 분야 ‘포괄적 최소(네거티브) 규제’ 단계별 계획 수립(’20) ② 인공지능(AI) 시대 기본이념과 원칙, 역기능 방지 시책 등 기본법제 마련(’20) ③ (가칭)미래사회 법제정비단 발족(’20)을 통해 분야별 법제 정비 주도

4) 인공지능(AI) 새싹기업(스타트업) 육성 ① 벤처펀드(’20년 5조원 이상) 자금 활용 인공지능(AI) 투자펀드 조성(’20) ② 미래기술육성자금*(’20 신설) 지원과 TIPS** 운영 사 선정 시 인공지능(AI) 분야 우대 * 혁신성장 분야 중소·스타트업 지원을 위한 정책자금(3,000억 원 규모) ** 유망 기술 보유 창업팀을 민간 주도로 선발·육성(Tech Incubator Program for Startup) ③ 전 세계 인공지능(AI) 새싹기업(스타트업)의 경쟁과 교류의 장, ‘인공지능(AI) 올림픽’ 개최*(’20~) * 글로벌 스타트업 페스티벌 ’ComeUp2020’의 메인행사로 ‘인공지능(AI) 올림픽’ 진행 ④ 인공지능(AI) 전문가와 새싹기업(스타트업) 교류·협력 활성화(’20~, ‘인공지능(AI) 밋업’ 개최)

[2] 인공지능(AI)을 가장 잘 활용하는 나라

5) 세계 최고의 인공지능(AI) 인재 양성과 전국민 교육 ① 인공지능(AI) 관련학과 신·증설과 교수의 기업 겸직 허용(’20) ② 인공지능(AI)대학원 프로그램 확대·다양화* * (현행) 학과 개설 → (개편) 학과 개설, 융합학과, 협동과정, 지역산업 융합 트랙, 대학 내 센터 등(‘20~) ③ 모든 군 장병과 공무원 임용자 대상 인공지능(AI) 소양교육 필수화(’20~) ④ 초중등 교육시간 등 필수교육 확대(~’22) ⑤ 교원의 양성·임용과정부터 소프트웨어(SW)·인공지능(AI) 과목 이수* 지원(’20~) * (교대) 인공지능(AI) 관련 내용을 필수 이수토록 교사 자격 취득 기준(고시) 개정 (사범대) 교직과목과 관련 전공과목에 소프트웨어(SW)·인공지능(AI) 관련 내용 포함 (교육대학원) 인공지능(AI) 융합교육 관련 전공 신설, 참여교사 지원

6) 산업 전반의 인공지능(AI) 활용 전면화 ① 공공영역 보유 대규모 데이터 기반 대형 인공지능(AI) 융합 프로젝트 확대 ② 인공지능(AI) 기반 지능형(스마트) 공장 보급(‘30. 2,000개) ③ 바이오·의료(AI 신약개발 플랫폼·AI 의료기기 검증·심사), 도시(스마트시티 데이터 허브), 농업(스마트팜) 등 산업 전 분야로 활용 확산[분야별 인공지능(AI) 도입·활용·과제] 제조 - 인공지능(AI) 기반 지능형(스마트)공장 보급('30, 2,000개), 업봉별 산업 데이터 플랫폼 구축확산, 중소기업 - 소상공인용 데이터 분석·활용 플랫폼 구축('21), 바이오·의료 - 신약배발플랫폼 구축('21), 의료데이터 중심병원 지원('20, 5개), 인공지능(AI) 의료기기 임상검증 표폰데이터·심사체계구축('21), 도서·물류 - 지능형도시(스마트시티) 데이터 허브 구축('20, 下~), 자율주행 대중교통 기술 개발('21~), 농수산 - 지능형농업(스마트) 팜('22) 및 스마트양식 테스트베드('22) 조성, 문화콘텐츠 - 지능형 캐릭터 제작엔진 개발('21), 국방 - 국방 데이터 활용 지능형 플랫폼 및 지휘체계 지원 기능 개발 ('20~)

7) 최고의 디지털 정부 구현 ① 주요 전자정부 시스템 진단(’20년 상반기)과 디지털 전환 이행계획 수립(’20년 하반기) ② 사각지대 없이 도움이 필요한 국민을 먼저 찾아 맞춤형 서비스 제공 * 차세대사회보장시스템 구축(~‘21), 생애주기별 원스톱 패키지 확대(’19. 출산·상속 등 2종 → ‘22. 10종 이상) ③ 국민 체감도가 높은 공공 서비스부터 인공지능(AI) 선도적 도입*(’20~) * 〈문화복지〉 문화누리카드 사용처 예측·추천, 〈특허정보〉 해외·선행 특허정보 선제적 제공, 〈환경오염〉 미세먼지 예측 및 지하수 오염 감지, 〈교정〉 수용자관리 지능화

[3] 사람 중심의 인공지능(AI) 구현

8) 포용적 일자리 안전망 구축 ① 고용형태 다변화(특수형태근로종사자(특고) 증가 등)에 대응한 사회보험 확대* * 특고 산재보험 적용, 특고 및 예술인 고용보험 적용 추진 → 중장기적으로 보험 대상을 ‘근로자’에서 ‘피보험자’로 변경 ② 고용안전망 사각지대 해소를 위한 국민취업제도* 도입(’20) * 취업 취약계층에게 취업지원서비스를 제공하고, 구직활동을 전제로 소득지원 ③ 산업현장의 수요 변화를 반영한 신기술 분야 직업훈련 비중 확대(’19. 4%(잠정) → ’22. 15%) ④ 일자리 연계 활성화를 위한 국가 일자리정보플랫폼 고도화(’20)

9) 역기능 방지 및 인공지능(AI) 윤리체계 마련 ① 인공지능(AI) 기반 사이버침해 대응체계 고도화(’20~) ② 딥페이크* 등 신유형의 역기능 대응을 위한 범부처 협업체계 구축(’20) * 인공지능(AI) 기반 영상 합성기술 또는 그 영상. 신시장 창출과 동시에 명예훼손 등 부작용도 우려 ③ 인공지능(AI) 신뢰성·안전성 등을 검증하는 품질관리체계 구축 추진(’20~) ④ 글로벌 규범에 부합하는 인공지능(AI) 윤리기준 확립(’20)과 윤리교육과정* 개발·보급(’21~) * (학생·이용자) AI와 생명윤리, 개인정보보호 / (개발자) 윤리적 AI 설계, 정보보안 등 ⑤ 이용자 보호를 위한 중장기적 정책 수립 지원체계 마련
AI for Everyone, AI of Everything IT강국을 넘어 AI 강국으로 하단 내용 참조

AI for Everyone, AI of Everything

IT강국을 넘어 AI 강국으로

디지털경쟁력 세계3위, 지능화 경제효과 최대 455조원, 삶의 질 세계 10위 01 세계를 선도하는 인공지능 생태계 구축

  • 01 세계를 선도하는 인공지능 생태계 구축

    AI인프라 - 공공·민간 데이터 개방, ‘AI혁신 클라스터’ 확산 창업단지+기업+학교+연구소 ‘광주 AI 집적단지’

    AI 기술 경쟁력 - AI 반도체 핵심기술 개발(1조원), 차세대 AI 연구 선제 투자

    과감한 규제혁시 - 포괄적 네거티브 규제('20) 선허용, 후규제, AI시대 대비 ‘법제정비단’ 발족('20)

    AI 스타트업 - AI 올림픽 개최('20), AI 스트트업 투자·지원,AI펀드조성, 미래기술육성자금, 사업하 바우처

  • 02 인공지능을 가장 잘 활용하는 나라

    AI 인재양성 및 전 국민 교육 - 고급,전문 AI관련학과 신증선, AI교원 기업겸직 허용, 실무, AI 융합전공 개설 직구별 AI 역량 함양, 일반 초중등 SW 필수 교육 전 국민 AI 평생교육

    전 산업 AI 활용전면화 - 대형 AI 웅합 프로젝트(AI+X)

    최고의 디지털 정부 - 차세대 지능형정부 구현, AI 기반공공서비스 혁식, 국민 맞춤형 복지, 국민생활 서비스

  • 사람중심의 인공지능 구현

    포용적 일자리 안전말 구축 - 국민취업지원제도, 사회보험적용확대, 일자리정보 플랫폼

    AI역기능 대응 및 AI 윤리 확립 - AI기반 사이버침해대응체계 고도화, 글로벌 수준의 AI 윤리체계 정립

(출처=인공지능 국가전략, 붙임자료 / 2019.12. 관계부처 합동)

4. 인공지능 윤리기준 (’20.12.23.)

정부는 2020년 12월 23일, 인공지능 시대 바람직한 인공지능 개발·활용 방향을 제시하기 위한 사람이 중심이 되는 ‘인공지능 윤리기준’을 마련했다.

주요내용

인공지능 윤리기준은 윤리적 인공지능을 실현하기 위해 정부·공공기관, 기업, 이용자 등 모든 사회구성원이 인공지능의 개발부터 활용까지 전 단계에서 함께 지켜야 할 기준이다. ‘사람 중심의 인공지능’을 위한 최고 가치인 ‘인간성(Humanity)’을 위한 3대 기본원칙과 10대 핵심요건을 제시한다.
1) 목표 및 지향점- 모든 사회 구성원이 모든 분야에서 자율적으로 준수하며 지속 발전하는 윤리기준을 지향한다.
2) 최고가치- 윤리기준이 지향하는 최고 가치를 ‘인간성(Humanity)’으로 설정
3) 3대 기본원칙- ‘인간성(Humanity)’을 구현하기 위해 인공지능의 개발 및 활용 과정에서 ①인간의 존엄성 원칙, ②사회의 공공선 원칙, ③기술의 합목적성 원칙을 제시
4) 10대 핵심요건- 3대 기본원칙을 실천하고 이행할 수 있도록 인공지능 개발~활용 전 과정에서 ①인권 보장, ②프라이버시 보호, ③다양성 존중, ④침해금지, ⑤공공성, ⑥연대성, ⑦데이터 관리, ⑧책임성, ⑨안전성, ⑩투명성의 요건이 충족되어야 함
인간성 ▶ 인간의 존엄성, 기술의 합목적성, 사회의 공공ㅅ헌 ▶인권보장, 프라이버시보호, 다양한 존중, 침해금지, 공공성, 연대성, 데이터 관리, 책임성, 안전성, 투명성(출처=‘인공지능 윤리기준’ 안건자료)

5. 인공지능 법·제도·규제 정비 로드맵 (’20.12.24.)

정부는 2020년 12월 24일 인공지능 시대를 준비해 나가기 위한 법적 기반을 마련하기 위한 인공지능 법·제도·규제 정비 로드맵을 발표했다.

추진방향 및 주요내용

인공지능 법·제도·규제 정비 로드맵을 수립함에 있어, ① 인공지능의 고유한 기술 특성과 빠른 발전 속도로 인한 신(新)기술과 구(舊)제도와의 간극을 극복하기 위해 종합적·선제적인 정비를 추진하고,② 국내 법체계와 해외 입법 동향을 분석한 결과를 반영하여 글로벌 동향과 조화를 이루면서 우리 실정에 맞도록 법제 정비(안)을 마련하며, ③ 사회적 합의에 기초한 ④ 민간자율을 우선하는 로드맵을 마련하여 인공지능 관련 분야 법·제도·규제 정비의 이정표를 제시하고자 함
1) 인공지능 공통 기반- 데이터 경제 활성화 기반 조성을 위해 ①데이터의 개념·참여주체를 명확화하고 정부 책무를 규정하는 ‘데이터기본법’ 제정(’21.上), ②개별 산업별 데이터 활용을 위한 입법(산업 디지털전환촉진법 및 중소기업 스마트 제조혁신법)을 추진(’21.上)한다. 또한 ③자동화된 개인정보 처리에 의존한 의사결정에 대한 설명요구권·이의제기권 도입을 위한 ‘개인정보보호법’ 개정(’21.上), ④대량의 데이터 분석 및 인공지능 학습이 가능하도록 ‘저작권법’ 개정을 추진(’21.上)한다.- 알고리즘 투명성·공정성 확보를 위해 기업의 알고리즘 개발이 위축되지 않도록 기업 자율적으로 알고리즘 편향성·오류를 평가·관리하는 체계를 우선 유도해나간다(’21~). - 인공지능 법인격과 관련하여 인공지능 창작물 투자자·개발자 등의 지식재산권 인정 여부(’21~) 및 민법·형법 개정 검토(’23~)를 통해 인공지능 법인격 관련 법체계개편 논의를 장기 과제로 추진한다. - 인공지능 책임체계 정립을 위해 인공지능이 계약을 체결한 경우, 이를 대리인에 의한 행위로 간주할 수 있는지 여부와 인공지능이 발생시킨 손해배상·범죄에 대해 권리 구제가 가능하도록 민법 개정·행정처분 신설 여부에 대해 검토(’23~)한다.- 인공지능 윤리 정립과 관련하여 인공지능 윤리기준 마련(’20.12.23)에 따른, 윤리교육 커리큘럼 연구·개발과 함께 학교 윤리 교육을 강화한다.
2) 인공지능 활용·확산- 의료 분야는 우리나라가 세계 최초로 인공지능 의료기기 인허가 기준을 수립*한 경험을 살려 인공지능 의료기기의 국제기준 마련을 선도(’22.上)해나가는 한편, 인공지능 의료기술 효과성 재평가 등을 통한 건강보험 적용범위 확대(’23~)를 추진한다.- 금융 분야는 사설인증서의 신뢰성을 판단할 수 있는 ‘전자서명 평가·인정제도’를 운영하고, 금융기관 간 이상금융거래 정보를 공유할 수 있는 지침 마련과 정보공유 확대를 통해 금융 관련 안전성을 강화(’21.下)한다.- 행정 분야는 인공지능 등을 활용한 자동화 행정 행위의 법적근거 마련을 위해 행정기본법을 제정하고, 오류 발생에 대비한 권리구제 절차(이의신청절차 및 행정심판)를 마련(’21.下)한다. - 고용·노동 분야는 대면·디지털 전환 가속화 등으로 출현한 플랫폼 종사자 고용보험 적용을 위한 법령 개정(고용보험법 시행령, 플랫폼 종사자 보호법 제정/’21) 및 산업안전보건 개선 방안을 연구(’23~)하는 등 플랫폼 종사자를 위해 지속적으로 관련 대책을 추진해나갈 계획이다. - 포용·복지 분야는 안정적·지속적인 디지털 포용정책 추진을 위한 법적근거를 마련하기 위해 디지털포용법 제정을 추진(’21.上)하고, 장기적으로는 인공지능이 야기한 사고 처리를 위한 보험제도 개편 방안을 마련(’23~)한다.- 교통 분야는 자율주행차 분야에서는 기(旣)수립된 로드맵에 따라 차근차근 개별 과제를 추진해나가는 한편, 자율운항선박 분야는 규제혁신 로드맵을 수립할 계획(’21)이다.
사람 중심의 인공지능 시대 실현을 위한 하단 내용 참조

사람중심의 인공지능 시대 실현을 위한 인공지는AI 법·제도·규제 정비 로드맵 ▶금융 - 사설인증서 안정성 및 전자금융사고 대응력 강화 ▶의료 - 인공지능확산을 위한 건강보험 등 제도 보완 ▶포용-인공지능 편익의 보편적 향유를 위한 디지털포용법 마련 ▶노동-플랫폼종사사 보호 등 안전망 확대 ▶행정-자동화 행정의 근거 및 권리규제 절차 마련 ▶교통-자율주행차·자율운항선박 규제혁신 ▶데이터경제 활성화 기반 조성 데이터 기본법제 마련 ▶인공지능 윤리 정립 윤리교육 커리큘럼 개발 ▶알고리즘 투명성·공정성 확보 기업 자율의 평가·관리체계 도입

(출처=인공지능 법·규제·정비 로드맵 보도자료)

6. 신뢰할 수 있는 인공지능 실현전략 (’21.5.13.)

인공지능이 전 산업·사회에 빠르게 도입·확산되며 혁신을 창출하고 있으나, 예상하지 못한 사회적 이슈*와 우려도 함께 대두되고 있다. * 인공지능 챗봇 ‘이루다’(’21.1.), 오바마전대통령 딥페이크(’18.7.), MIT개발 사이코패스 인공지능(’18.6.) 등
이에, 유럽(EU), 미국 등 주요국은 인공지능에 대한 사회적 신뢰(Trust) 확보를 인공지능의 사회적·산업적 수용의 전제요소로 인식하고, 그 실현을 위한 적극적인 정책을 추진하고 있다.
우리 정부도 2021년 5월 13일 사람이 중심이 되는 인공지능을 위한 ‘신뢰할 수 있는 인공지능 실현전략’을 발표했다.
2020년 12월 발표한 「인공지능 윤리기준」의 실천방안을 구체화하고, 민간 자율적으로 신뢰성을 확보할 수 있도록 지원체계를 구축하며 재정·기술력이 부족한 스타트업 등에 대한 지원책을 담은 것이 특징이다.

주요내용

“누구나 신뢰할 수 있는 인공지능, 모두가 누릴 수 있는 인공지능 구현”을 비전으로 하여, 기술·제도·윤리 측면의 3대 전략과 10대 실행과제를 ’25년까지 단계적으로 추진된다.
특히, 민간의 인공지능 서비스 구현을 체계적으로 지원하고, 이용자가 믿고 안전하게 사용할 수 있도록 제도를 보완하며, 사회 전반에 건전한 인공지능 윤리를 확산하는 것이 중점 방향이다.
1) 신뢰 가능한 인공지능 구현 환경 조성① 인공지능 제품·서비스 구현단계별 신뢰 확보 체계 마련- 기업, 개발자, 제3자 등이 신뢰성 구현을 위해 개발 등의 단계에서 참조할 수 있는 신뢰 확보 기준과 방법론을 제시하고 지원- 국내·외 신뢰성 관련 법·제도·윤리·기술적 요구사항을 한 번에 확인할 수 있는 ‘개발 가이드북’을 제작·보급하고 이를 준수한 신뢰성 확보 여부 등을 확인·평가하기 위한 검증체계을 마련·제시② 민간 신뢰성 확보 지원- 기술·재정적 상황이 열악한 스타트업 등도 체계적으로 신뢰성을 확보해 나갈 수 있도록 인공지능 구현을 위한 ‘데이터 확보→ 알고리즘 학습→ 검증’을 통합 지원하는 플랫폼 운영③ 인공지능 신뢰성 원천기술 개발- 설명가능성에 대한 고려 없이 개발된 인공지능 모델에 전문가 보고서 생성 수준의 설명 가능성 기능을 추가할 수 있는 기술 개발* 안 : ’22~’26년(총 5년) /총 450억원- 사회적 규정 등으로부터 인공지능이 스스로 편향 요인을 식별, 편향 가능성 진단하고 최적의 제거 방안을 판단·적용하는 기술개발* 안 : ’22~’26년(총 5년) /총 200억원- 복합 정보를 이용한 인공지능 공격에 대한 선제적 대응 기술 개발* 현재 기획 추진 중
2) 안전한 인공지능 활용을 위한 기반 마련① 학습용 데이터 신뢰성 제고- 민·관이 인공지능 학습용 데이터 제작공정에서 공통적으로 준수해야할 신뢰 확보 검증지표 등의 표준 기준을 민간과 함께 마련·확산- ‘데이터 댐’ 사업에서는 구축 전 과정에서 저작권, 개인정보보호와 같은 법·제도 준수 여부 등의 신뢰성 확보 고려사항을 선제적으로 적용하여 품질을 향상② 고위험 인공지능에 대한 신뢰 확보- 국민의 안전이나 기본권에 잠재적 위험을 미칠 수 있는 고위험 인공지능의 범주를 설정하고, 서비스 제공 전에 해당 인공지능의 활용 여부를 이용자에게 ‘고지’하도록 할 계획③ 인공지능 영향평가 실시- 인공지능이 국민생활 전반에 미치는 영향을 종합·체계적으로 분석하고 대응하기 위해 사회적 영향평가 도입④ 인공지능 신뢰 강화를 위한 제도 개선- 지난해 「인공지능 법·제도·규제 정비 로드맵」(’20.12.)을 통해 발굴된 과제 중 인공지능에 대한 신뢰 확보, 이용자의 생명·신체보호 등과 관련된 과제의 차질 없는 이행 추진* ①업계 자율적 알고리즘 관리·감독환경 조성, ②플랫폼 알고리즘 공정성·투명성 확보, ③영업비밀 보장을 위한 알고리즘 공개기준 마련, ④고위험 기술기준 마련 등
3) 사회 전반 건전한 인공지능 의식 확산① 인공지능 윤리 교육 강화- 인공지능 윤리교육 총론을 마련하고, 이를 토대로 연구·개발자, 일반시민 등 맞춤형 윤리 교육을 개발·실시② 주체별 체크리스트 마련·배포- 연구·개발자, 이용자 등이 업무, 일상생활 등의 속에서 윤리 준수 여부를 자율점검을 할 수 있는 체크리스트 개발·보급③ 윤리 정책 플랫폼 운영 - 학계·기업·시민단체·공공 등 다양한 사회 구성원이 참여하여 인공지능 윤리에 대해 깊이 있게 토의하고 의견 수렴 및 발전방향을 논의하는 공론의 장을 마련·운영