에이전트 기반의 AI 정부

에이전트 기반의 AI 정부 플랫폼이 쉽게 달성할 수 있는 것은 아니지만, 이를 완성하면 세계에서 가장 앞선 정부 서비스가 될 것이다. 그렇게 되기 위해서는 지금까지 우리가 활용한 기술 스택이 아닌 완전히 새로운 AI 기술 스택을 구성해야 하며, 이는 국가 CTO의 통찰을 통해서 이룰 수 있을 것이다.

우리나라 전자정부의 역사는 50년이 넘었다. 

UN이나 OECD 평가에서 늘 최상급 수준으로 인정받은 전자정부는 디지털 정부 플랫폼을 넘어 이제 AI 정부라는 새로운 시대를 맞이하고 있다. 

그러나 AI 정부는 단순히 기존 전자 정부 플랫폼을 고도화하거나 개선하는 수준을 말하는 것이 아니다. 

과거 우리가 기반한 기술 스택을 갖고는 AI 기술을 완벽히 구현할 수가 없다. IT 업계에서는 이런 과거의 기술이 오히려 발목을 잡을 수 있는 것을 기술 부채라고 한다. 

그럼 AI 정부는 어떤 기술 기반으로 해야 할 것인가? 

AI 정부가 그냥 거대 언어 모델(LLM)을 이용해 기존 자료를 검색 증강 생성(RAG)이라는 기법을 사용해 신뢰할 수 있게 제공하고 모든 공공서비스에 챗봇을 붙여주는 것을 의미하는 것이 아니다. 

물론 처음 출발은 다들 그렇게 생각한다. UAE(아랍에미리트)의 아부다비가 제공하는 TAMM이 그런 사례라고 생각하지만 그것이 곧 AI 정부 플랫폼이라고 볼 수 없다. 

얼마 전에 MIT(매사추세츠 공과대학교, Massachusetts Institute of Technology)에서 나온 'GenAI Divide' 보고서에서 말한, 실제 배포 단계에서 보면 95%가 AI 프로젝트에 성공하지 못한다는 결과의 근본 원인을 다시 살펴야 한다. 

내부에서 활용하는 AI 모델이 상용 모델인 GPT-5, 클로드, 제미나이 등에 미치지 못할 경우 내부 인력은 여전히 상용 모델에 의존한다는 것이고, 전체 업무 흐름의 자동화가 이루어지지 않고 단지 프롬프트를 넣어서 내용을 생성하는 방식으로는 조직에서 실감할 수 있는 효과를 얻을 수 없다는 것이다. 

그리고 아직은 장기적인 기억 등에 대한 기술 부족을 해결해야 하는 이슈도 있다.

이제 AI 기술은 에이전트를 기반으로 하는 새로운 아키텍처와 프로토콜을 이야기하고 있으며, 이를 통해 전체 업무 플로우를 자동화하고 대 국민 서비스가 유연하고 효율적으로 이루어지도록 해야 한다. 공공기관이 창출하는 다양한 데이터를 에이전트가 쉽게 접근하고, 에이전트 간의 협업이 이루어질 수 있는 구조가 필요하다. 

아마존이 기존 시스템을 처음부터 다시 생각하자는 뜻으로 모든 프로젝트를 중단하고 새로운 아키텍처를 구현해서 나온 것이 지금 우리가 사용하는 클라우드 컴퓨팅의 초창기 모델이 되었다. 기술 부채를 해결할 수 있는 새로운 접근이 필요한 것이다. 모든 것을 AI를 기반으로 재구성해야 하는 AI 네이티브 아키텍처가 필요한 이유이다. 

또한 지금까지 사용한 개발 방식에 대한 전면적인 혁신이 필요하다. ISP를 만들고, RFP를 발행해 외주 업체를 구하고 이들이 개발하고 납품해서 실제 환경에서 활용하려면 2~3년이 필요할 경우도 있다. 

AI 기술은 매우 빠르게 발전하고 있기 때문에 이런 방식의 개발은 새로운 기술 스택을 사용하기 어렵게 만든다. 언제든지 새로운 기술을 채택하고 빠르게 개선할 수 있는 아키텍처를 기반으로 개발 조직과 정부가 기민하게 움직일 수 있는 방식을 만들어 내야 한다.

마지막으로 모든 정부 시스템의 UI/UX에 대한 새로운 접근이다. 

물론 이는 사용자 인터페이스와 상호작용에 대한 이야기이지만, 이제 사용자는 메뉴를 찾고, 원하는 서비스를 파악할 필요가 없어야 한다. 대화하면서, 자연스러운 문장을 통해서, 사용자의 의도를 파악해서 바로 원하는 서비스를 제공할 수 있어야 한다. 

에이전트 기반의 AI 정부 플랫폼이 쉽게 달성할 수 있는 것은 아니지만, 이를 완성하면 세계에서 가장 앞선 정부 서비스가 될 것이다. 그렇게 되기 위해서는 지금까지 우리가 활용한 기술 스택이 아닌 완전히 새로운 AI 기술 스택을 구성해야 하며, 이는 국가 CTO의 통찰을 통해서 이룰 수 있을 것이다.

우리에게 국가 CTO가 있는가?

◆ 한상기 테크프론티어 대표

서울대 컴퓨터공학과 1회 졸업생으로 1980년대 카이스트에서 인공지능 주제로 석박사 학위를 취득했다. 삼성종합기술원, 삼성전자 등에서 활동했으며 1999년 벤처포트 설립, 2003년 다음커뮤니케이션(현 카카오) 전략대표와 일본 법인장을 역임했다. 카이스트와 세종대 교수를 거쳐 2011년부터 테크프론티어 대표를 맡고 있다. 데이터 경제 포럼 의원, AI챌린지 기획, AI데이터 세트 구축 총괄 기획위원 등을 역임했다. 대표 저서로는 <AGI의 시대>, <AI 전쟁 2.0> 등이 있다.