AI를 멈출 것인가, 사회를 바꿀 것인가

2026년 9월 23일 유엔 안전보장이사회에서 인공지능(AI)의 치명적 위험성을 경고하며 개발 속도를 늦추거나 엄격히 통제해야 한다는 목소리가 쏟아졌다. 세계적인 컴퓨터과학자 요슈아 벤지오(Yoshua Bengio)를 비롯해 샘 올트먼(Sam Altman), 다리오 아모데이(Dario Amodei) 등 주요 AI 기업의 관계자들은 '파멸적 위험'을 안겨줄 모델이 인간의 통제를 벗어날 가능성이 있다면 훈련을 멈춰야 한다며 우려를 표했다. 그러나 다가올 극단적 위험에 대한 불확실성만을 근거로 기술 진보를 인위적으로 멈추자는 주장을 한국이 그대로 받아들이긴 어렵다. 지난 역사와 우리 사회의 구조적 현실을 고려했을 때 재고해야 할 지점이 있기 때문이다.

기술 혁신이 인간 노동을 완전히 대체하고 기하급수적 성장으로 이끄는 '경제적 특이점(Economic Singularity)'에 대한 공포와 기대는 토머스 로버트 맬서스(Thomas Robert Malthus) 이후 끊임없이 반복돼 온 서사다. 그러나 역사적으로 그러한 극단적 예측이 단기간에 현실화된 적은 많지 않다. 18세기 산업혁명조차도 지금 돌이켜보면 단절적이라기보다 점진적인 시스템 전환에 가까운 것이었다. 

오늘날 윌리엄 노드하우스(William Nordhaus) 같은 경제학자들이 지적하듯 혁신적인 기술은 시간이 지날수록 개발에 더 많은 비용이 들고 어려워지는 경향이 있다. 이들의 분석에 따르면 현재의 시나리오대로 진행된다 하더라도 무한한 가속 성장이 일어나는 특이점은 최소 100년 후에나 나타날 가능성이 있다. 더욱이 2022년 겨울 챗GPT가 대중에 처음 공개된 이후 4년이 채 되지 않는 시간이 흘렀을 뿐이다. 고작 수년 동안 축적된 데이터만으로 향후 인류의 복잡한 궤적을 확정적으로 예측하고 기술 발전의 셔터를 강제로 멈추자는 주장은 섣부른 것일 수밖에 없다.

AI 충격, 국가마다 다르게 나타날 것

설령 AI가 특이점에 준하는 파괴적 변화를 이끌어낸다 하더라도 그 파급 효과는 전 지구적으로 균일하게 나타나지 않을 것이다. 각 국가가 보유한 자본과 제도적 기반에 따라 혁신을 수용할 수 있는 여건은 크게 다르다. 파급 효과가 뚜렷하게 나타나는 곳에서는 압도적인 생산성 향상이라는 긍정적 결과와 광범위한 노동 대체라는 부정적 결과가 동시에 나타날 것이다. 반면 공급망 병목에 시달리는 산업이나 인프라가 부족한 국가에서는 AI의 효과가 제한적으로 나타날 가능성도 있다. 

우리는 이 과정에서 필연적으로 수반될 사회적 불평등의 본질을 명확히 이해할 필요가 있다. 다가올 경제적 격차는 서구 사회가 주로 우려하는 젠더·인종 등의 '정체성 정치'에서 비롯된 차별과는 다른 양상으로 나타날 수 있다. 무한한 복제와 배포가 가능한 새로운 AI 기술과 상품, 그리고 자본의 압도적인 '확장성(scalability)'이 전통적인 노동의 가치를 떨어뜨리면서 새로운 형태의 물질적 불평등이 발생할 수 있기 때문이다. 거대한 자본과 기술의 결합은 기존과는 다른 형태의 구조적 격차를 만들어낼 가능성이 있다.

능력주의의 재설계 필요성

우리는 거시적 맥락에서 한국의 객관적 조건과 위기 지형을 짚어볼 필요가 있다. 한국 사회는 서구의 다인종 국가들과 달리 인종이나 정체성을 둘러싼 갈등이 사회적 균열의 전면에 놓일 가능성은 상대적으로 적다. 오히려 주요한 위협은 오랫동안 한국 사회의 근간을 지탱해 온 '능력주의(meritocracy)' 체제의 변화다. 지금까지 한국 사회의 수직적 이동성과 보상체계를 정당화해 온 핵심에는 국어·수학·영어로 대표되는 언어·기호 처리능력 기반 능력주의적 교육 시스템이 있었다. 하지만 현재의 생성형 AI는 바로 이러한 '언어 능력'과 '규칙 기반의 인지적 문제 해결' 영역에서 인간의 역할을 빠르게 대체하거나 보완하고 있다. 기존 교육 모델과 직업 보상체계가 근본적인 전환점에 서 있는 것이다.

따라서 우리가 미래세대를 위해 지금 고민해야 할 과제는 'AI 개발 중단'이 아니다. 기존의 언어·수리 중심 평가 지표를 넘어서는 새로운 형태의 사회적 보상체계를 마련하는 데 먼저 나서야 한다. 기존 능력주의의 변화가 또 다른 계층의 고착화와 사회적 불평등으로 이어지지 않도록 사회 내부의 활발한 수직적 이동성을 보장하고, AI 시대에 창출되는 막대한 부가 특정 계층에 과도하게 집중되지 않도록 다층적인 제도를 구축해야 한다. 기술 발전의 궤도를 인위적으로 멈추기 어렵다면 우리에게 남은 현실적인 과제는 그 기술이 가져올 충격을 흡수하고 감당할 수 있는 새로운 사회계약을 우리 스스로 끈질기게 만들어내는 일일 것이다.

이원재 KAIST 문화기술대학원 교수 

대한민국 정책주간지 <K-공감> 바로가기