피지컬 AI 속도전, 신뢰 거버넌스가 필요한 이유

속도와 안전은 대립하는 개념이 아니라, 하나의 목표를 이루는 두 바퀴다…3년 안에 세계 최고에 도달하기 위해 우리는 그 속도만큼이나 그것을 지탱할 신뢰의 인프라를 함께 놓아야 한다.

올해 6월 29일 청와대에서 열린 '대한민국 대도약 3대 메가프로젝트 국민보고회'는 한국 산업 정책의 분기점으로 기록될 것이다. 

이재명 대통령은 반도체, 피지컬 인공지능(AI), AI 데이터센터를 '초격차 산업강국 대도약을 위한 삼각축'으로 규정하고 "오직 속도전만이 살 길"이라며 "청와대에 직할 담당관을 둬 직접 챙기겠다"고 밝혔다. 

인간의 두뇌인 반도체, 지능을 갖춘 신체인 피지컬 AI, 생각의 창고인 데이터센터를 결합해 독자적 한국형 AI 생태계를 완성하겠다는 구상이다. 정부는 3년 안에 글로벌 기업 의존에서 벗어난 세계 최고 수준의 독자 피지컬 AI 파운데이션 모델 개발을 목표로 제시했다.

이 목표는 이미 실행에 옮겨지고 있다. 과기정통부는 6월 초 340억 원 규모의 '피지컬 AI 선도기술개발' 사업에 착수해 국내 대표 10개 산학연을 결집시켰다. 그동안 외산에 의존해온 시뮬레이션 플랫폼 즉 '월드모델' 원천기술의 국산화가 핵심 과제다. 방향은 명확해졌고 속도도 붙었다.

그런데 이 속도전에서 반드시 함께 달려야 할 것이 있다. 바로 '신뢰'다. 주목할 점은 정부 스스로 그 답을 이미 언급했다는 사실이다. 과기정통부는 착수보고회에서 "피지컬 AI는 현실에서 동작하기 때문에 사고 때 인명피해로 직결될 수 있어 가상환경에서의 충분한 사전 학습과 검증이 필수"라고 전했다. 속도와 안전은 대립하는 개념이 아니라, 하나의 목표를 이루는 두 바퀴다.

문제는 이러한 '검증'을 뒷받침할 피지컬 AI 시대의 제도적 기반이 아직 충분히 마련되지 않았다는 데 있다. 현행 국제 로봇 안전표준인 ISO 10218은 산업용 로봇 셀과 예측 가능한 작업환경을 중심으로 발전해 왔고 협동로봇 기준인 ISO/TS 15066도 사람과의 접촉 시 힘과 속도를 제한하는 협업을 전제로 한다. 스스로 학습하고 판단하는 피지컬 AI 휴머노이드에 이러한 기존 안전 체계를 그대로 적용하는 것은 맞지 않는 옷을 입히는 것과 같다. 

유럽연합(EU)이 AI 법을 통해 고위험 AI와 AI가 내장된 안전 관련 제품에 대한 규제를 단계적으로 정비하는 동안 올해 1월 시행된 한국 인공지능기본법은 자율적으로 판단·행동하는 로봇이 사람에게 상해를 입혔을 때 제조사·개발자·운영자 간 책임을 어떻게 배분할 것인지에 대해서는 여전히 명확한 기준을 제시하지 못하고 있다.

이 공백을 메우기 위해 세 가지를 제안한다. 첫째, 전(全)주기 안전 인증 체계다. 정부가 국산화하려는 '월드모델' 시뮬레이션은 강력한 검증 도구이지만, 가상 검증만으로 안전이 보증되지는 않는다. 시뮬레이션을 출발점으로 실환경 테스트, 운용 로그 축적, 사고 보고, 업데이트 후 재검증까지 하나의 순환 체계로 묶어야 한다. 로봇이 스스로 학습해 계속 변하는 만큼, 인증도 일회성이 아니라 생애 전주기에 걸친 지속적 과정이어야 한다. 

둘째, 책임 소재의 법제화다. 피지컬 AI 사고의 책임은 제조사·운영자·개발자만의 문제가 아니다. 시스템 통합자, 데이터 제공자, 유지보수 사업자, 현장 관리자까지 얽힌 복잡한 사슬 속에서 사고 유형별 책임 주체를 사전에 규정해야 한다. 셋째, 국제 표준 선제 참여다. 3년 내 세계 최고를 목표로 한다면, 기술만이 아니라 그 안전 규범까지 한국이 규범 형성자로서 주도해야 한다.

이 대통령은 "피지컬 AI가 현장에서 수집한 데이터가 데이터센터로 모여 산업 혁신을 이끄는 선순환"을 강조했다. 이 선순환이 지속되려면 그 출발점인 현장에서 국민이 로봇을 신뢰할 수 있어야 한다. 단 한 번의 중대 사고가 그동안 쌓아온 산업 전체의 신뢰를 한순간에 무너뜨릴 수 있기 때문이다. 

안전과 윤리는 속도를 늦추는 브레이크가 아니라, 고속 주행을 가능하게 하는 가드레일이다. 3년 안에 세계 최고에 도달하기 위해 우리는 그 속도만큼이나 그것을 지탱할 신뢰의 인프라를 함께 놓아야 한다.

◆ 김익재 한국과학기술연구원 AI·로봇연구소장

서울대학교 전기·컴퓨터공학 박사학위를 취득했으며, 현재 KIST AI·로봇연구소 소장을 맡고 있다. 그동안 인공지능·로봇 분야 연구를 수행하며 국가 과학기술 전략 수립과 대형 연구개발 프로젝트를 이끌어 왔다. 인공지능 기반 영상인식, 선별 및 전역 관제 등 다양한 AI 분야에서 다수의 원천기술을 개발해 산업 및 공공 영역에 확산시켰다. 과학기술 발전과 산업 경쟁력 강화에 기여한 공로로 석탑산업훈장을 수훈했고, 공학한림원 젊은 공학인상과 KIST 미래재단 석학상 등을 수상했다.