보이지 않는 인프라가 된 AI

 

지난번 글에서 AI는 이미 전기, 수도, 도로, 인터넷과 같은 기본 인프라에 가까우며, 물리 AI를 통해 산업용 인프라로 진화하고 있다는 이야기를 다루었다.

 

최근 뉴욕타임스의 A.J. Jacobs는 AI 없이 48시간 지내기를 시도했다. 그 결과 세상의 거의 모든 물건이 디자인, 제조, 마케팅, 배송 과정에서 생성형 AI나 머신러닝의 영향을 받는다는 것을 깨닫게 되었다. 이제 문제는 AI가 관여하는가 여부가 아니라 AI가 얼마나 관여하는가이다.

 

AI에 투자하고 있는 빅테크가 현재 돈을 잘 벌고 있고 앞으로도 수익성을 유지할 것은 확실하다. 하지만 지금의 천문학적인 투자 규모와 지나치게 높은 기업 가치 평가가 합리적인지는 누구도 정확히 답하기 어려운 질문이다. 

 

다만 설비투자(Capex)가 급증했음에도 투자 자본 수익률(ROIC)이 오히려 상승하고 있다는 점은 참고할 만하다. GPU가 단순히 연구개발에만 쓰인 것이 아니라, 기존 광고 및 추천 시스템의 효율화에 즉각 투입되었기 때문이다. 투자가 바로 매출로 전환된 셈이다. 일반 기업들도 클라우드 도입 때보다 더 빠르게 AI를 통해 생산성을 높이고 있다. 현재의 AI 붐은 실체가 없는 버블과는 다르다. 현재는 최소 10여 년간 이어질 AI 발전의 초입에 서 있을 뿐이다.

 

이미 AI가 어디까지 발전할 수 있을지에 대한 기대와 전망은 장밋빛으로 넘쳐난다. 하지만 회의적으로 보는 시각도 만만치 않다. 특히 현재 AI 혁명의 중심에 있는 대규모 언어모델, 즉 LLM을 비롯한 생성형 AI에 대해서는 여러 가지 오해가 존재한다.

 

이번 글에서는 LLM에 대한 오해를 알아보고, 왜 AI와의 협업 능력이 새로운 시대의 기본기가 되어야 하는지 살펴보려 한다. LLM은 정말 확률적 앵무새에 불과한가? AI에 의존하면 인류의 능력이 퇴화할 것인가? 이러한 질문들에 답하면서, 문자가 인류의 사고를 확장했듯이 AI가 우리의 인지적 한계를 어떻게 새로운 차원으로 넓혀줄 수 있는지 이야기해 보겠다.

 

NotebookLM  슬라이드로 생성한 그래픽

 

 

확률적 앵무새라는 오해

 

대표적인 오해는 LLM이 과거 데이터 패턴에 따라 짜깁기한 답변을 내놓을 뿐이라고 보는 것이다. 이른바 확률적 앵무새론이다. 앵무새의 말은 진정한 이해나 창의성과는 본질적으로 다르고, AI 또는 LLM의 역할은 앞으로도 영원히 생산성 향상 도구에 머물 수밖에 없다는 주장이다.

 

일단, LLM이 확률적 앵무새에 불과하다는 주장은 지나치게 단순한 생각이다. 그런 식의 논리라면 인간의 의식은 뉴런의 전기신호일 뿐이다. 실제로 대규모 언어모델은 단순히 패턴을 짜깁기하는 것이 아니라, 언어의 구조적 관계, 개념 간의 추상적 연결, 맥락에 따른 의미의 변화 등을 파악할 수 있다.

 

이는 최근 이미지 생성 AI의 발전에서 직접 확인할 수 있다. 초기의 확산 모델(Stable Diffusion, Midjourney)은 노이즈에서 형태를 찾아내는 방식이었다. 그래서 손가락이 여섯 개가 되거나 글씨가 뭉개지는 문제가 발생했다. 하지만 나노 바나나 같은 리즈닝 기반 모델은 설계도를 먼저 그리는 건축가처럼 작동한다. “손가락은 5개여야 해”, “안녕이라는 글자를 정확히 써야 해”라고 논리적으로 추론한 뒤 이를 기반으로 이미지를 생성한다. 

 

LLM을 확률적 앵무새 정도로 여기고 이해나 창의, 논리적 능력을 완전히 부정하는 것은 3년 정도 전이라면 어느 정도 타당했을지 모른다. 하지만 아직도 그렇게 생각하고 있다면 최근 AI의 발전을 완전히 무시한 것이다. 이미지 생성 분야에서 확인되듯, AI는 더 이상 데이터 패턴을 짜깁기하는 수준이 아니라, 논리적으로 추론하며 내용을 이해하고 구성하는 단계로 발전했다.

 

 

에이전트 혁명

 

추론 능력을 바탕으로, 오늘날의 LLM은 단순히 언어 모델을 넘어 에이전트로 진화하고 있다. 에이전트란 단순한 질문에 수동적인 답만 하는 것이 아니라, 스스로 판단하고 도구를 사용하며 목표를 달성하기 위해 여러 단계의 능동적인 작업을 수행하는 AI를 말한다.

 

에이전트로의 진화가 중요한 이유는 기존 AI의 고질적인 한계를 극복했기 때문이다. 강화 학습은 매우 강력한 도구이지만 몇 가지 한계점이 있었다. 예를 들어 AI가 게임에 이길 때마다 보상을 주고, 질 때마다 처벌하면 결국 게임 실력이 좋아진다. 하지만 AI가 수천 번의 체커 게임을 하는 동안 자신이 잘하고 있는지, 못하고 있는지는 알 길이 없었다. 즉 체커게임에서 강화와 처벌은 게임이 끝났을 때, 게임의 승패로만 이뤄진다.

 

하지만 한 게임에서 수백 번의 수를 두어야 한다. 어떤 것이 잘 둔 수이고 어떤 것이 못 둔 수인지를 AI에게 대량으로 학습시키기는 매우 어려웠다. 이것이 바로 강화 학습의 가장 고질적인 난제 중 하나인 신뢰 할당 문제이다. 

 

Tim Whyatt,〈Machine Learning Daddy〉

 

즉 전통적인 강화 학습은 직접 부딪혀보고 여러 번 아픔을 느껴야 겨우 배울 수 있는 금붕어와 비슷했다면, LLM과 결합한 에이전트 기반 AI는 다르다. 사람이 행동하기 전에 머릿속에서 결과를 미리 시뮬레이션하듯, 언어를 통해 상황을 해석하고 논리적으로 인과관계를 파악한다. 즉, 맹목적인 무작위 시행착오가 아니라 추론을 통해 행동하고 배우는 존재로 진화하고 있다. 이제 AI는 맹목적인 반복 숙달이 아니라 추론과 계획 능력을 통해 빠르고 효율적으로 지능을 확장해 나가고 있다.

 

 

도구가 지능을 만든다

 

LLM에 대한 또 다른 오해로는 LLM에 의존하면, AI에게 뇌를 내어주어 인류의 능력이 퇴화할 것이라는 주장이다. 지엽적으로 보면 사실일 수 있다. 예를 들어 구술 문화권 사람들의 기억력은 문자 문화권의 사람들보다 훨씬 뛰어났다. 즉 어떤 관점에서는 문자가 인류의 능력을 퇴화시켰다고 볼 수 있다. 그렇다고 해서 문자가 인류를 바보로 만들었는가?

 

문자는 단순히 사람들이 머릿속에 가지고 있던 생각을 그대로 옮겨 적게 만들어준 것이 아니다. 문자가 있기에 복잡한 생각이 가능해졌다. 대부분의 철학과 논리가 문자라는 도구에 의해서 창조되었다. 즉, 인간이 도구를 만들었지만, 도구가 인간을 만들기도 하는 것이다. 문자라는 기술이 지능적인 인간의 생각을 기록하는 데 쓰였다기보다는, 새로운 지능을 만들어냄으로써 기존의 인간 지능을 확장했다. 문자를 발명한 후 인류가 문자에 의해 변화되었듯이, AI를 만들어낸 인류는 AI에 의해 변화할 것이다.

 

문자가 등장하면서 전적으로 기억에 의존하던 것에서 벗어나 기록된 지식을 활용하게 된 것처럼, AI 모델은 방대한 정보와 아이디어를 즉각 조합할 수 있게 해준다. 보다 추상적이고 고차원적인 사고를 하는데 도움받을 수 있게 된다. 복잡한 주제에 대해 소통하면서 생각을 정교화하고 다듬어가는 과정이 획기적으로 단축된다.

 

 

 

신기술에 대한 거부감

 

15세기 인쇄술은 지식의 대중화를 이끌었지만, 한편으로는 정보의 홍수 속에서 비판적 사고 능력이 저하되고 정신이 산만해질 것이라는 비판이 있었다. 학자들은 너무 많은 책이 사람들을 수동적인 정보 수용자로 만들 것이라 걱정했다. 어떤 점에서는 인쇄술이 인간을 수동적으로 만든 면도 있다. 그렇다고 해서 인쇄술이 인류를 바보로 만들었는가?

 

20세기 라디오가 등장했을 때 사람들이 스스로 정보를 찾고 읽는 대신, 일방적으로 전달되는 정보에 수동적으로 의존하게 만들어 상상력과 비판적 사고력을 저해할 것이라는 우려가 있었다. 어떤 점에서는 라디오가 인간을 수동적으로 만든 면도 있다. 그렇다고 해서 인류가 라디오 발명 이후 상상력이 쇠퇴했는가?

 

언제든 정보를 쉽게 검색할 수 있게 되면서, 뇌가 정보를 저장하고 기억하려는 노력을 게을리하게 된다는 구글 효과 또는 디지털 기억상실증에 대한 우려도 있었다. 계산기가 인간의 계산능력을 저해한다느니, 컴퓨터가 나왔을 때는 또 어떠했는가? 새로운 기술이나 도구가 인간의 능력을 퇴화시킬 것이라는 우려는 인류 역사상 한 번도 잠잠했던 적이 없다.

 

문자가 인류의 사고 능력을 근본적으로 확장했던 것처럼, AI는 우리의 인지적 한계를 새로운 차원으로 확장하고 있다. 문자를 이용해 사고하는 법이 필수가 되었듯이 AI와 함께 사고하는 법은 필수가 될 것이다.

 

NotebookLM  슬라이드로 생성한 그래픽

 

 

지능 증폭(IA): 인지적 한계의 극복

 

현재 수준의 AI는 뛰어난 도구로 쓰일 수 있다. 하지만 AI는 단순한 도구가 아니다. 기존 작업을 빠르게 수행하는 것을 넘어 완전히 새로운 사고 가능성을 열어준다. 복잡한 데이터에서 인간이 포착하지 못한 관계를 발견하고, 여러 분야를 가로지르는 연결점을 제시할 때, AI는 단순한 증강을 넘어 확장의 영역으로 나아간다.

 

1960년대 더글러스 엥겔바트는 마우스의 발명자 정도로 널리 알려져 있지만, 시대를 한참 앞서간 비전가였다. 그는 컴퓨터가 단지 인간의 명령을 따르는 도구를 넘어, 인간의 사고와 창조성을 증폭시키는 진정한 지적 파트너가 될 수 있음을 내다봤다. 그가 오래전에 제안한 지능 증폭(Intelligence Amplification) 이란 개념이 이제야 진정으로 실현되고 있다.

 

물론 사용 방식에 따라 결과는 달라진다. ChatGPT에게 단편적인 질문을 던지고 답변을 ‘복사-붙여넣기’만 한다면 우리의 사고력은 확실히 퇴화할 것이다. AI가 던져주는 정보에 수동적으로 의존하면 비판적 사고와 상상력이 무뎌지는 것도 명백하다.

 

하지만 주의 깊게 사용한다면, AI는 본질적인 사고에 집중하도록 돕는 강력한 협업자가 된다. 이는 인지 부하 이론(Cognitive Load Theory)으로 명쾌하게 설명할 수 있다. 인간의 뇌가 한 번에 처리할 수 있는 정보량에는 한계가 있다. 학습과 문제 해결 과정에서 우리 뇌는 크게 두 가지 부하를 겪는다. 첫째는 정보 탐색이나 복잡한 매뉴얼을 해독하는 데 쓰이는 외재적 인지 부하다. 둘째는 실제 개념을 이해하고 사고를 확장하는 데 쓰이는 본질적 인지 부하다.

 

NotebookLM  슬라이드로 생성한 그래픽

 

AI의 진정한 가치는 바로 여기에 있다. AI는 학습과 창조를 방해하는 외재적 인지 부하를 획기적으로 줄여준다. 과거에는 자료를 찾고 준비하는 과정에 뇌 용량의 대부분을 소진했다면, 이제는 AI 덕분에 그 에너지를 온전히 핵심 내용에 대한 사색과 통찰에 쏟을 수 있다. 결국 AI 시대의 지성은 불필요한 인지적 짐을 덜어내고, 인간만이 할 수 있는 고차원적인 사고에 더 깊게 몰입하는 방향으로 진화할 수 있다.

 

 

협업의 기술

 

새로운 기술은 언제나 인간의 특정 능력을 퇴화시킨다는 비판을 받아왔다. 하지만 역사는 그것이 퇴화가 아니라 더 고차원적인 능력을 위한 진화였음을 증명했다. 중요한 것은 신뢰 조절이다. 언제 AI를 믿고, 언제 인간의 직관을 따라야 할지 체득하는 것, 이것이 새로운 시대의 핵심 역량이다. “AI에게 지나치게 의존하면 AI에게 뇌를 내어주어 나의 능력이 결국 퇴화할 것”이라는 우려는 절반만 맞는 말이다. AI 안 쓰자니 뒤처지고, 쓰자니 바보 될까 두렵고. 이것도 저것도 다 모르겠고 춤이나 추자는 얘기인가?

 

“AI가 인간을 바보로 만들 것인가”라는 방어적인 질문에서 벗어나야 한다. 대신 “AI라는 도구를 통해 어떤 새로운 지능을 얻을 것인가”라는 질문을 던져야 할 때다.

 

문자가 인류에게 새로운 사고의 차원을 열어주었듯, AI는 우리의 인지적 지평을 확장하고 있다. 이제 중요한 것은 AI와의 협업 능력을 키우는 것이다. 언제 AI를 활용하고 언제 인간의 직관을 따를지, 어떻게 AI와 함께 사고를 확장할지를 체득해야 한다. 이것이 새로운 시대를 살아가는 핵심 역량이 될 것이다.

 

우리의 인지적 한계를 새로운 차원으로 넓혀줄 여러 가지 기적적인 AI 활용법을 발견했지만, 그걸 여기다 쓰기에는 지면의 여백이 너무 좁다.

 

추신: 데이터, 아니, 여백이 없으니(?!) 다음 편에 차차 이야기를 이어나가 보자.

 

 

편집: 이현화

마빡 디자인: 꾸물

기사: 히야신스

 

제보 및 연재 문의

ddanzi.master@gmail.com