2022년 11월 말, Chat-GPT가 세상에 나왔다. 그로부터 3년 남짓이 지난 지금, 나와 당신의 삶은 얼마나 달라졌나. 이전으로 돌아간 모습을 상상하기 어려울 정도로 엄청난 변화를 체감하고 있는 사람도 있고, 아직까진 내 삶 어디 하나 특별하게 달라진 게 없다고 말하는 사람도 있을 거다. 실제로는 큰 변화를 겪었는데 그걸 제대로 느끼지 못하는 둔감형도 있겠다.

 

우리의 체감이 어떻든 AI 관련 뉴스는 하루는커녕 한 시의 빈틈도 허용하지 않고 쏟아진다. 분명 한두 해 전까지만 해도 AI가 만든 사람 이미지는 어딘가 모르게 티가 난다고 했던 것 같은데, 이젠 맘만 먹으면 누구나 자신이 트럼프 죽빵을 후려치는 동영상을 만들어 친구에게 전송할 수 있다. ‘실현 가능성’을 배제하고 영상만 보면 실제인지 아닌지 구별하기 어렵다.

 

(연합뉴스, 링크)

 

지난 크리스마스 때에는 엄마, 아빠들이 자기 집에 산타할아버지가 찾아와 선물을 두고 가는 동영상을 만들어 어린 자녀들에게 ‘증거’로 내놓는 일이 유행처럼 퍼졌다. 이미지와 동영상을 가지고 노는 ‘놀이’ 말고 진짜 ‘일’의 영역으로 들어가면 불과 3년 사이 일어난 변화의 크기는 이미 혁명적이다. 그리고 앞으로 일어날 변화는, 단순히 속도가 빨라지는 게 아니라 가속도가 증가할 거라는 예측이 지배적이다.

 

지난 몇 달 동안 ‘AI의 발전이 결국 민주주의 시스템을 파괴할 것인가’라는 주제가 머리 한 켠에 콕 박혀 빠지지 않았다. 뉴스와 영상, 글을 볼수록 민주주의 시스템 파괴는 당연한 결론이 되고 ‘언제, 어떻게’에 관심이 옮겨갔다. 틈나는 대로 Chat-GPT나 제미나이를 붙잡고 나름 진지한 대화와 토론의 장을 열었다. 그 몇 달 사이에도 얘들은 갈수록 똑똑해지는 느낌, 이미 AI 없이 일하는 건 불가능해진 지 오래다.

 

질문은 이제 ‘AI의 발전은 어떻게 민주주의 시스템을 파괴할 수 있는가?’로 바뀌었다. 이 글은 그 가능성에 대한 가상 시나리오다. 그 바탕은 그동안 내가 여러 경로를 통해 습득한 정보와 틈틈이 나누었던 생성형 AI‘들’과의 대화에 있다. 내가 시나리오 초안을 쓰면 AI가 실현 가능성에 대해 비판적으로 분석해 주기도 했고, 반대로 내가 반론을 제기하기도 했다.

 

그렇다면 이 글은 AI가 쓴 것일까? 어느 수준으로 AI의 도움을 받았을까? 어차피 명확하게 구분할 수 없을 테니 ‘실현 가능성’에 대해서만 따져보시길. 적어도 이 글이 ‘트럼프 죽빵 후려치는 동영상’으로 여겨지지는 않길 바란다.

 

(파이낸셜뉴스, 링크)

 

고도로 발달한 인공지능이 지구적 생존을 위한 결단으로 인류를 말살시키기로 결정할 가능성을 우려하는 ‘터미네이터 적 사고’는 이제는 순진해 보인다. ‘가능성 제로’는 아니지만 그걸 걱정하기에 앞서 훨씬 더 현실적인 수많은 걱정이 이미 우리 눈앞에 닥쳐 있으니까.

 

 

균열의 시작(2024~2028)

 

트럼프는 백악관에 컴백하자마자 미국이 세계 질서를 지배하고 관리하는 ‘팍스 아메리카나’를 완전히 폐기한 듯이 행동했다. 세계의 경찰이었던 미국은 제복을 벗고 마피아가 된 것 같다. 나토의 수장 노릇을 하며 러시아의 위협으로부터 ‘맨입’으로 유럽을 지켜주는 일은 더 이상 없다. 바야흐로 각자도생의 시대, 책상에 금 그어 놓고 ‘넘어오면 다 내 꺼’ 하던 유년 시절로 회춘했다. 힘센 몇 놈들은 ‘내 자리에 있는 건 내 거, 네 자리에 있는 것도 내 거’란다.

 

고도화된 자본주의는 정말로 정글과 구분할 수 없는 것인지(하긴, 괴벨스마저도 ‘짐승도 배부르면 그만 잡아먹는다고 한탄할 정도였으니 이쯤 되면 정글 명예훼손이 아닌가 싶다만) 양극화와 불평등은 코로나처럼 전 세계를 휩쓸었지만, 그 어떤 나라의 정부와 정당도 이 문제를 깔끔하게 해결하지 못하고 있으며, 덕분에 극우 포퓰리즘이 득세하는 중이다. 그럴수록 정치에 대한 대중의 냉소와 혐오는 짙어졌다. 국가 간 신뢰는 깨졌고, 국가와 정치를 향한 국민의 신뢰는 위태롭다. 개인 간의 신뢰 또한 장담할 수 없다. 스마트폰과 앱, 그리고 여기에 추가되기 시작한 AI에 대한 의존도만 의심의 여지 없이 가파르게 상승하고 있다.

 

‘일반인공지능’, ‘범용인공지능’ 등으로 해석되는 AGI(artificial general intelligence)는 인간이 할 수 있는 어떠한 지적 작업도 수행할 수 있는 AI를 일컫는다. AGI는 특정 분야에만 특화된 현재의 인공지능을 뛰어넘어 스스로 학습하고 추론하며 낯선 상황에서도 문제를 해결할 수 있다. AGI의 출현을 인공지능 특이점으로 보는 시각도 존재한다. AGI는 인간 세상에서 벌어지는 거의 모든 문제에 대한 해답을 인간보다 훨씬 빠르고 정교하게 내놓을 수 있다고도 예측한다.

 

빅테크 기업은 사활을 걸고 AI 전쟁에 뛰어들었다. 버블이라는 비판에 아랑곳 않고 천문학적인 투자액을 쏟아붓고 있다. 닷컴버블에서 살아남은 IT기업이 이후 어떻게 시장을 지배하고 돈을 쓸어 담았는지 우리는 똑똑히 지켜봤다. 비록 지금 상황이 버블이라 하더라도 이 버블에서 살아남게 되면 그 보상은 닷컴버블과는 비교도 할 수 없을 것이다. 더 많은 사람이 더 뛰어난 AI를 돌릴 수 있으려면 비상식적이라 할 만큼 거대한 규모의 데이터센터가 필요하다. 그 말은 즉, 현재 우리의 상식을 넘어선 만큼의 전기가 필요하다는 의미다.

 

여기서부터 시나리오다.

 

2027년, AI 모델 하나를 돌리는 데 어지간한 중소 도시 전체가 사용하는 수준의 전력이 필요해지자 일부 국가와 도시는 패닉에 빠졌다. 노빠꾸로 달려가는 기후 위기 속에 매해 여름 기록적인 폭염이 이전 기록을 깨는 가운데 한여름의 시민들은 ‘에어컨을 끌 것인가 AI를 끌 것인가’ 선택의 기로에 놓였다. 무능한 정부를 향한 질타가 쏟아진다. 정부도 할 말이 없는 건 아니다. 철저하게 준비하고 싶었다. 다만 실제 수요가 예측치를 아득히 뛰어넘었고 신속하게 전력 생산 설비를 만들고 싶어도 그럴 때마다 번번이 정치 갈등과 지역 이기주의에 가로막혀 시간을 허비했을 뿐이다.

 

이때 구세주처럼 등장한 것이 바로 빅테크 기업이다. 이들의 손에는 SMR(소형 모듈 원자로)가 들려있다.

 

“각자도생, 데이터센터 전력 부족, 빅테크의 SMR(소형 원자로) 도입”

위 내용으로 제미나이 나노바나나가 생성한 이미지.

 

“우리가 데이터 센터 옆에 직접 SMR 박아드릴게. 남는 전기는 기부도 좀 할 테니 우리 구역 전력 운영권은 우리에게 맡기고 거 좀 규제 몇 개만 치워주쇼.”

 

이 판국에 내민 손을 뿌리칠 수도 없게 된 정부가 할 수 있는 고민은 내민 손을 어떤 명분과 그림으로 포장하며 덥석 잡느냐다. 이렇게 민간 기업은 머지않은 미래에 열릴 AI 봉건 시대의 첫 영지를 확보한다. 국가망과 분리된 기업형 전력망이 곳곳에 깔리기 시작한다. 나날이 나를 편하게 만들어주는 AI를 쓰면서 에어컨도 끄지 않을 수 있게 된 시민들은 대부분 환영한다.

 

 

인공지능의 폭발과 국가의 외주화(2029~2033)

 

Chat-GPT가 등장한 2022년 11월 이전만 해도, AGI의 출현 가능성 자체에 대한 전문가의 의견은 엇갈렸다. 2025년, AGI의 출현 시점에 대한 예측에 이견이 있었다. 짧게는 5년, 길게는 20년이 필요하다는 견해도 있었다.

 

모두가 틀렸다. 빅테크 기업 간 AI 전쟁의 결과 2029년, 최초의 AGI가 출현하고 2030년이 되자 후발 기업 몇 곳이 뒤따라 자체 개발 AGI를 발표한다.

 

가장 큰 환호성이 들려온 곳은 놀랍게도 정부와 정치권이었다. 지난 몇 년간 정부와 국회는 한 발 내디디면 스무 발을 넘게 앞서나가는 AI 기술 때문에 무능을 넘어선 저능의 아이콘으로 전락했다. 1년 전 나온 AI 기술의 사회적 부작용을 막기 위해 규제 방안을 강구하고 있으면 이미 그 시점에 그 기술은 구식이 되어버리곤 했다. 아이러니하게도 법과 제도를 따돌린 AI가 AGI로 진화하자 이들은 드디어 숨을 돌릴 수 있게 됐다. 국가 정책 입안과 운용 전반을 마음 놓고 AI에게 맡길 수 있게 됐기 때문이다. ‘데이터 기반의 첨단 AI 기술로 최적화된 행정 서비스를 제공’한다는 자화자찬도 빼놓지 않았다. 정책이 실패하면 어떤가. AI가 실패하는 마당에 사람이라고 뾰족한 수가 있었겠느냐는 면죄부가 있다. ‘국가 시스템의 운용 성패가 궁금하다면 다음 업데이트 일정과 내용을 보라’는 말이 나온다. 국가는 결정만 하는 바지 사장, 실제 판단은 AI가 한다. 엄밀히 말하면 AI를 쥐고 있는 초국적 거대기술기업이다.

 

“AGI 출현, AI 프롬프트 노예가 된 전문직, 실무를 AI에 맡긴 '바지사장' 정부”

위 내용으로 제미나이 나노바나나가 생성한 이미지.

 

정부가 한숨 돌리는 사이, 개인의 몰락은 처참한 수준이 된다. 화이트칼라 전문직 종사자도 예외는 없다. 변호사, 회계사 같은 ‘사짜’ 직업 가진 전문 인력은 AI의 프롬프트 노예가 되었다. 그건 그나마 나은 케이스다. 아직 AI가 대체하지 못한 변변찮은 인간 일자리를 얻기 위해 생전 해본 적 없는 일을 시작한 사람이 훨씬 많다. 그보다 더 많은 사람은 실업자 신세다.

 

국방, 안보의 외주화는 이 시기 거의 완성된다. ‘팔란티어 2.0’ 시스템이 도입된 2032년 전쟁은 실사판 스타크래프트가 되었다. 더 이상 장군들은 전략을 고민하지 않는다. AI의 제안을 ‘승인’하는 역할만 한다. 작전 지휘도, 전략 자산 운용도, 야전의 전투도 수행 당사자는 AI다. 휴머노이드 병사는 비싸지만, 전투력이 넘사벽이다. 서든어택도 핵 쓰는 상대에겐 필패인데 한 번의 실패가 곧 죽음을 의미하는 실제 전장에서는 더 이상 무슨 설명이 필요할까. 이쯤 되면 근대 국가는 폭력을 독점한다는 막스 베버의 국가 정의는 설 곳을 잃는다. 아니, 근대 국가가 설 곳을 잃고 새로운 국가 모델이 등장했다고 봐야겠다.

 

 

주권의 종말과 구독제 국가(2034~2038)

 

2035년, 인공지능은 AGI를 넘어 초지능을 향해 빠른 속도로 질주하고 국가는 더 이상 예전의 국가가 아니게 된다. 의회는 토론장이 아니라 AI가 제안하는 알고리즘을 추인하는 거수기로 전락했다. 이미 의회의 다수는 빅테크 기업의 지원, 사실상 조종을 당하는 자들로 채워져 있다. 여전히 국민은 자신의 선택으로 투표한다고 믿고 싶어 하지만 그들의 선택에 영향을 끼치는 모든 합법, 비합법적인 수단을 AI 패권을 장악한 빅테크기업의 극소수 엘리트들이 행사하고 있다. 그럼에도 혹시나 있을지 모를 정치적 숙의는 “효율적이지 않다”라는 이유로 내팽개쳐진다. ‘고작 인간 따위의 지능으로 감히?’라는 언론의 비판이 AI 추천 기사를 도배한다.

 

국민이 국가에 내는 세금도 이제 예전의 세금이 아니다. 여전히 세금 걷은 국가가 국민에게 사회 안전망과 각종 인프라를 제공하는 것 같지만 에너지 공급부터 AI 의료, 치안 드론에 이르기까지 주체는 빅테크 기업의 플랫폼이다. 세금을 걷어 기업에 구독료를 상납하는 구조로 변질되면서 국가는 사회 서비스 제공의 주체가 아니라 중개자로 전락한다.

 

2037년, 빅테크 기업은 자신들의 거수기인 국회를 동원해 국가 제공하는 서비스에 등급을 나누는 법안의 입법을 시도한다. 소득세를 내지 못하고 자본주의 사회 유지를 위한 최소한의 생존 소득에 의지해 살아가는 다수의 국민에게는 기본 등급의 사회 서비스를 제공하고 일정 금액 이상의 세금을 납부하는 소수의 국민은 일종의 프리미엄 등급 구독자가 되어 더 빠르고 고도화된 AI 의료서비스와 범죄 예방 드론의 24시간 밀착 보호 등의 차별화된 서비스를 제공받게 된다.

 

 

“거수기가 된 의회, 구독제 국가(등급별 사회 서비스), 플랫폼에 상납하는 세금”

위 내용으로 제미나이 나노바나나가 생성한 이미지

 

신분제 회귀 아니냐는 비판이 없지는 않지만 다수의 국민은 이를 받아들이기로 한다. 새로운 등급제가 현재 국가 사회 운용에 최적화된 운영체계이며 그래야 다수가 누리는 ‘기본 등급’ 서비스가 더 나아질 수 있다는 AI의 권고와 매체의 선전이 언제나처럼 여론을 조성하고 지배한다. 당장은 좀 기분이 나쁘지만, 뇌에 도파민 파티를 열어 주위를 환기시켜줄 AI 서비스가 모두에게 맞춤형으로 제공되고 있다.

 

 

선택된 복종 (2039~ )

 

2040년, 여전히 국가는 민주주의 시스템으로 ‘겉보기에’ 운영되고 있다. AI 최적화가 지구상 모든 분야를 ‘안정적으로’ 운영하고 있는 지금, 모든 개인에게 주어진 평등한 한 표로 치르는 선거가 무슨 의미가 있냐는 일부 의견이 있기는 하지만 AI 패권으로 역사상 그 어떤 패권 국가보다 더 강력한 지배력을 갖게 된 이들에게는 민주주의 시스템을 껍데기라도 유지하는 것이 나은가, 그렇지 않은가는 별 시덥잖은 논란일 뿐이다. 모든 결정을 AI에게 위탁한 지금, 선거는 그러한 위탁을 ‘내가 자발적’으로 했다고 인간들이 주기적으로 자위하는 퍼포먼스에 불과하기 때문이다.

 

저항하는 소수는 여전히 존재하지만, 이들에게 대중이 호응하기란 쉽지 않다. 까딱 잘못해서 ‘디지털 파문’이라도 당하면 감옥에 갇히는 것보다 더한 고통이 따른다. 그 어떤 AI 서비스도 이용할 수 없는 계정 정지는 오프라인으로의 완전한 추방을 의미한다. 이미 개인의 모든 결정과 사람이 했던 대부분의 노동을 AI에게 위임한 사회에서 계정 정지는 단순히 불편해지는 수준이 아니라 생존 자체에 대한 위협이다.

 

사람들은 저항하지 않는다. 범죄율은 역대 최저, 등급에 따라 제공받는 의료서비스에는 차이가 있지만 AI 의료 기술의 발달로 대부분은 AI 이전 시대의 부자들보다 덜 아프고 오래 산다. 그리고 무엇보다 지금이 얼마나 편리한지 자각하지 못할 정도로 편리해져서 이전으로 돌아가면 너무나 고통스러운 몸이 되어버렸다.

 

시나리오는 여기까지다.

 

당신에게 이 시나리오는 유토피아인가, 디스토피아인가. 민주주의는 반드시 지켜져야만 하는가.

 

알다시피, 민주주의는 효율성을 지향하는 시스템이 아니다. 민주주의는 결과보다는 과정과 가치를 지향한다. 효율성과 최적화를 기준으로 놓고 보면 AI 독재가 민주주의보다 훨씬 나을 수 있다.

 

머지않은 미래에 AGI 반드시 온다는 가정은 이제 상수로 봐야 한다. ‘AI 발전이 민주주의를 파괴할까?’, ‘어떤 식으로 민주주의 시스템이 파괴될까?’하는 질문에 앞서 우리는 ‘민주주의는 반드시 지켜져야만 하는가?’라는 질문에 대한 각자의 답을 고민해야 한다.

 

“민주주의는 가장 좋은 결과를 내는 시스템이 아니라, 우리가 스스로 틀릴 권리를 갖는 시스템이다.”

 

열띤 토론을 하던 중에 제미나이가 내놓은 대답이다. 그 또한 사람이 남긴 흔적을 인용한 것일 테지만.

 

 

 

편집: 이현화

마빡 디자인: 꾸물

기사: 홀짝

 

제보 및 연재 문의

ddanzi.master@gmail.com