블랙 아이보리를 마시며

 

언제나처럼 블랙 아이보리 원두를 갈아 드립을 준비한다. 커피를 음미하며 문득 돌아보니, 어느덧 여섯 달 가까이 기사를 써왔다. 짧은 시간 같지만, AI 업계에서는 그사이 많은 일이 있었다. 에이전틱 AI라는 개념이 본격화되었고, 메모리 가격이 몇 배로 뛰었으며, 코딩을 AI로 대체한 앤트로픽은 사흘이 멀다 하고 굵직한 업데이트와 새 제품을 쏟아냈다. 어느새 AI가 AI를 만드는, 이른바 재귀적 자기 개선의 초반 단계에 진입했을 수도 있다. 매 편 다른 떡밥을 다뤘지만, 열한 편을 한 상에 올려놓고 보면 반복되는 이야기가 있다. 그 흐름을 몇 가지 축으로 다시 꿰어본다.

 

 

버블이 아니라 후반전이다

 

버블이라는 단어는 편하다. 천문학적인 설비투자에 비해 현재 수익성이 부족한 것은 사실이니까. 하지만 지금 상황은 닷컴 버블과는 결이 다르다. 닷컴 시절에는 매출 없는 회사들이 시가총액만 부풀렸다. 지금 빅테크들의 설비투자(Capex)가 치솟은 것은 사실이지만, 투자 자본 수익률(ROIC)은 오히려 올라가고 있다. GPU는 광고 추천 시스템에 꽂혀 매출로 환전되기도 한다. 일반 기업들은 클라우드를 도입할 때보다 더 빠른 속도로 AI를 생산성으로 전환하고 있다. AI에 대한 과도한 기대와 투자를 경계할 필요는 있다. 그러나 AI를 메타버스처럼 일시적인 유행으로 봐서는 절대 안 된다.

 

이것은 소프트웨어만의 이야기도 아니다. 스마트 팩토리 사례에서 살펴봤듯, 디지털 지능은 물리 세계로 넘어왔다. LLM의 언어 능력이 추론 능력으로 진화했고, 범용적인 판단 능력이 생겼다. 그리고 이것이 물리적인 행동 능력으로 다시 진화하고 있다.

 

산업이 AI를 만나 구조가 바뀌고 있다. 이 수준의 파급력은 닷컴 시절의 온라인 광고 시장 팽창과는 비교할 수준이 아니다. 일부 거품이 낀 영역이 있을 수는 있지만, 구글의 전 CEO 에릭 슈미트는 오히려 현재 투자 규모가 부족할 것이라고 주장한 바 있다. 지금 우리가 목격하고 있는 것은 단순한 투자 열풍이 아니라, 인류 문명을 바꾸는 역사적 전환점일 수 있다.

 

지금 AI 산업에서 일어나는 일은 국면 전환이다. 이를 후반전이라 불렀다. 전반전은 모델을 얼마나 키울 수 있느냐의 싸움이었다. 더 큰 파라미터, 더 많은 데이터. 다음 장을 연 것은 모델의 덩치가 아니라 추론이었다. 사전 학습에서 얻는 성능 향상이 점차 한계에 닿으면서, 대신 답을 내기 전에 더 많이 생각하게 하는 방식으로 성능을 끌어올리는 시대가 열렸다. 포스트 트레이닝 스케일링. 이름은 길지만 뜻은 하나다. 똑똑해진 모델에게 생각할 시간을 더 주는 것이다.

 

생각할 시간이 길어지면 토큰과 메모리를 더 쓰게 된다. 에이전트가 하루 종일 혼자 태스크를 돌리기 시작하면 그 추론의 양이 어마어마해진다. 그 결과가 메모리 가격 3배 상승이다. 삼성과 SK하이닉스는 일반 메모리 라인을 줄이고 HBM으로 생산 축을 틀었다. 이는 단발성 수급 조정이 아니라 산업의 흐름이 바뀐 것이다. AI의 후반전이 시작되면서 반도체 수급이 즉각적으로 흔들렸고, 단기 수급 조정으로는 가격을 통제할 수 없는 결과를 낳았다.

 

 

 

에이지 오브 에이전트

 

그 사이 모델 바깥에서는 더 큰 변화가 진행됐다. 오픈클로의 등장이 대표적이다. 오스트리아 개발자 피터 슈타인베르거가 텔레그램 봇으로 만든 범용 에이전트인 이 녀석은, 채팅창에서 명령을 받으면 스스로 브라우저를 열어 항공편을 예약하고, 캘린더에 일정을 추가하고, 어제 빠뜨린 회신을 먼저 물어본다. 단순히 챗봇이 진화해 기능을 추가했다는 이야기가 아니다. 우리가 앱을 하나씩 켜서 직접 입력하던 시대가 끝나가고 있다는 신호다. 아이폰이 버튼 없는 화면 하나로 휴대전화의 정의를 바꿔 놓았듯, 메시징 창 하나가 앱·검색·광고 생태계를 다시 짤 가능성이 높다. 손발이 묶여 있던 AI가 직접 행동을 시작한 것이다.

 

광고 기반 검색 비즈니스는 사용자가 링크를 클릭해야 수익이 발생한다. 그런데 에이전트가 검색 결과 대신 직접 호텔을 예약하고, 쇼핑몰을 순회해 가격을 비교하고, 뉴스 기사를 요약해버리면 사람이 링크를 클릭할 이유가 사라진다. 검색 최적화(SEO)의 개념이 근본적으로 바뀌고 있다. GUI 중심의 세계는 API와 CLI 중심 세계로 조용히 이동하기 시작했다. 에이전트가 쓰기 편한 인터페이스를 제공하지 않는 서비스는, 아이폰 초기에 모바일 최적화를 늦게 한 서비스들이 겪었던 트래픽 붕괴를 고스란히 겪게 될 것이다.

 

 

AI는 두 번째 문자다

 

나는 AI를 두 번째 문자라고 불렀다. 소크라테스는 문자가 사람을 게으르게 만들고 기억력을 퇴화시킨다고 불평했다. 구술 문화권 사람들의 기억력이 문자 문화권보다 뛰어난 것도 사실이다. 그렇다고 문자가 인류를 바보로 만들었는가. 문자는 단순히 머릿속 생각을 옮겨 적는 도구가 아니었다. 문자가 있었기에 길고 정교한 추론이 가능해졌고, 대부분의 철학과 논리는 문자가 만들어낸 기술이다. 인간이 도구를 만들었지만, 도구가 다시 인간을 만든다.

 

15세기에 인쇄술이 널리 퍼졌을 때도 책이 너무 많아지면 사람을 수동적 정보 수용자로 만들 거라는 걱정이 있었다. 20세기 라디오가 등장했을 때는 상상력이 퇴화할 것이라는 말이 나왔고, 계산기가 나왔을 때는 수학 능력이 무너진다는 우려가 뒤따랐다. 구글 등장 이후에는 디지털 기억상실증이라는 말이 유행했다. LLM에 대해서도 같은 맥락의 공격이 있다.

 

히야신스의 AI 감식반: AI는 두 번째 문자다

(딴지일보, 링크)

 

‘확률적 앵무새’라는 표현이 대표적이다. 과거 데이터 패턴을 짜깁기할 뿐, 진짜 이해나 창의성은 없다는 주장이다. 3년 전이라면 어느 정도 타당한 비판이었을 것이다. 그러나 지금의 LLM은 단순 패턴 조합을 넘어, 언어의 구조적 관계와 개념 간의 추상적 연결, 맥락에 따른 의미 변화를 파악한다. LLM을 과대평가된 텍스트 생성기 정도로 보는 건 이제 낡은 시각이다. LLM은 이미 추론(reasoning) 엔진으로 진화했고, 강화 학습(RL)이 그 추론을 통해 마침내 다양한 과제에 일반화되기 시작했기 때문이다.

 

기술 공포증은 이번 AI에도 어김없이 찾아왔다. 다만 이번에는 그 범위가 좀 넓을 뿐이다. 나는 AI의 진화가 단순 텍스트 생성기에서 AI가 챗봇에서 에이전트(Agent)로 진화했다는 점을 여러 번 반복해서 강조했다. 과거 강화 학습은 승패로만 보상과 처벌을 배분했다. 한 게임에서 어떤 수가 결정적이었는지 알 수가 없었다. 신뢰 할당 문제라고 부르는 이 고질적 난제를, 에이전트는 사전 시뮬레이션과 인과 추론으로 우회한다. 인간이 행동하기 전에 머릿속으로 여러 경우의 수를 미리 그려보는 방식과 가깝다. 맹목적인 시행착오가 아니라, 추론을 통해 행동하고 배우는 존재로 진화한 것이다. AI를 많이 쓰면 뇌가 썩는다는 유사 과학에 휘둘리지 말고, AI와의 협업을 고민할 때다.

 

 

당신의 데이터가 곧 당신의 AI다

 

AI가 틀린 답을 뱉는 현상, 흔히 할루시네이션이라 불리는 이것은 맥락을 찾는 데 실패한 결과다. 자는 사람을 갑자기 깨워서 10년 전에 읽은 책의 한 구절을 외워 보라고 하면 아무리 머리 좋은 사람도 답하기 어렵다. 많은 사람이 AI에게 던지는 질문이 대체로 이런 식이다. 빈손으로 묻고, AI가 대충 만들어 준 답을 손에 쥐고는 거짓말쟁이라고 화를 낸다.

 

프롬프트 기교의 문제가 아니다. 빈손으로 질문하지 말고, 자료를 들고 가라. 이것이 내가 매 편마다 반복한 원칙이다. 오늘 아침 뉴스레터를 붙여 넣고 우리 회사의 상황에 맞게 정리해 달라고 하라. 회의록을 쌓아 두고 결정된 사항과 미결 사항을 분류해 달라고 하라. 수십 페이지짜리 보고서가 있다면 요지를 요약하기 전에 질문 목록부터 던져라. AI를 소설가가 아니라 분석가로 쓰기 시작하면 답이 훨씬 정확해진다. 마법이 아니라 공정이 바뀐 것이다. AI에 맥락을 충분히 제공하면 할루시네이션이 줄어드는 것은 당연한 결과다.

 

병합된 셀, 도형 안의 도형, 꾸며진 표지, 숫자와 텍스트가 뒤섞인 계기판. 사람 눈에는 예뻐 보여도 기계가 읽기는 어렵다. 기계가 읽을 수 있게 데이터를 손질해 주면, 인간이 놓친 구멍을 기계가 메운다.

 

계기판 눈금이 뒤죽박죽인 채로 부조종사에게 비행기를 맡길 수 없듯이, 과정은 없고 최종 PPT 파일만 남아 있는 조직은 AI에게 진짜 업무를 맡길 수 없다. GS그룹이 사내 표준 문서 도구로 노션을 도입한 것도 같은 맥락이다. 구조화된 마크다운 기반 문서가 쌓이면, 그것이 조직의 AI 리소스가 된다.

 

 

개인 지식의 컴파일

 

최근 안드레 카파시는 도메인 지식을 LLM이 읽을 수 있는 형태로 개인 위키를 만드는 법을 공유해 화제가 됐다. 그는 이를 ‘개인 지식의 컴파일’이라고 불렀다. 코드를 오픈소스로 공유하던 시대에서, 이제는 아이디어 파일만 공유해도 에이전트가 자기 환경에 맞춰 구현해 내는 시대로 넘어가고 있다.

 

개인의 맥락, 조직의 업무 기록, 자신만의 도메인 지식, 노하우. 이는 어떤 빅테크도 대신 만들어 줄 수 없다. 공공 데이터로만 학습한 모델은 어딘가 어색한 기성복이다. 여기에 내 맥락이 얹히면 비로소 내 몸에 딱 맞기 시작한다. 카파시의 아이디어 파일은 벌써 수없이 많은 변종 응용법을 양산해 내고 있다. 구슬의 크기나 양이 아니라, 내 몫의 구슬을 얼마나 촘촘히 꿰었느냐가 경쟁력이 된다.

 

다만 구슬이 서 말이라도 꿰어야 보배다. 꿰는 실은 이미 AI가 쥐고 있으니, 각자가 할 일은 꿸 만한 구슬을 내놓는 것이다. 개인에게 필요한 것은 자신만의 지식을 정리하는 습관이고, 조직에 필요한 것은 구조화된 데이터의 축적이다. 자기 도메인 지식을 LLM으로 체계적으로 컴파일하는 방법은 이미 넘쳐난다.

 

오늘 내가 AI와 주고받은 대화가 내일 내 작업의 맥락이 되고, 그 맥락이 다음 결과물의 품질을 결정한다. 이 피드백 루프가 한 번 돌기 시작하면, AI와 사용자가 쌍방향으로 똑똑해진다. 내 기록이 쌓일수록 AI의 답이 좋아지고, 그 답이 다시 내 기록에 얹힌다. 결과적으로 AI를 잘 쓰는 사람과 그렇지 않은 사람 사이의 격차는 선형이 아니라 지수로 벌어지기 시작한다.

 

 

 

오케스트레이터로 살기

 

도구가 아니라 역할이 바뀐다. 지식 노동자의 하루를 분 단위로 뜯어보면, 정작 중요한 결정을 내리거나 깊이 생각하는 시간, 이른바 Hard Thinking의 비중은 의외로 작다. 대부분의 시간은 그 주위를 떠받치는 일에 쓰인다. 레퍼런스를 찾아 검토하고, 양식을 맞추고, 다른 문서와 교차 확인하고, 어제 회의록과 오늘 초안 사이의 용어를 통일하는 것들이다. 이는 핵심 업무가 어려워서가 아니다. 이 체계를 유지보수하는 데 대부분의 에너지를 쓰기 때문이다. 그런데 이런 일은 에이전트 AI가 가장 잘하는 영역이다. 반복적이고, 규칙이 있고, 여러 문서를 가로지르며 대조해야 하는 일.

 

히야신스의 AI 감식반: 넷플릭스 보는 동안 AI에게 일 시키는 법

(딴지일보, 링크)

 

구글 안티그래비티, 옵시디언, 클로드 코드를 소개했던 기사는 프로그램 추천이나 팁 공유가 아니다. 에이전틱 AI는 생각을 위한 도구다. 기존 도구들은 만드는 행위에 에너지 소모가 컸지만, 에이전틱 AI를 사용하면 생각하는 단계에 더 무게를 둘 수 있게 된다. 내가 진짜로 하고 싶었던 말은, 어떤 도구를 쓰느냐가 아니라 어떤 역할로 일하느냐가 중요하다는 것이다.

 

LLM은 단순히 문장 생성기가 아니다. 추론하고 도구를 사용하는 존재다. 사람이 목표와 제약을 정의하고, AI가 여러 단계의 과업을 스스로 해낸 뒤 결과를 보고하는 구조다. 이를 에이전틱 AI라 부르든 오케스트레이션이라 부르든 본질은 같다. 사람은 작성자에서 방향 제시자이자 검토자로 옮겨간다. 앤트로픽 엔지니어 보리스 체르니의 사례가 이를 선명하게 보여준다. 그는 한 달 동안 수만 줄의 코드를 생산했지만, 본인이 직접 친 줄은 단 한 줄도 없다고 밝혔다. 그가 한 일은 방향을 잡고, 구조를 설계하고, AI가 짠 결과물을 검토하고, 더 나은 방향을 제시하는 것이다. 개발자라는 직업의 정의가 조용히 바뀌고 있다.

 

이 변화는 개발자만의 이야기가 아니다. 자료 모으는 사람에게도, 글을 다듬는 사람에게도, 계약서 읽는 사람에게도 똑같이 적용된다. 지금 당장은 개발자들이 먼저 이 미래에 도착했을 뿐이다.

 

히야신스의 AI 감식반: 천재가 낭비를 줄이기 시작했다

(딴지일보, 링크)

 

 

자동으로 성장하고 정리되는 지식

 

사진 수백 장에 태그를 붙이고, 옵시디언 볼트 안에서 메모 사이에 링크를 달고, 흩어진 기록을 다시 엮는 작업들. 이를 수작업으로 하려면 주말을 고스란히 보내야 하고, 대개는 끝을 보지 못한다. 에이전트에게 방침을 주면, 넷플릭스 드라마 한 편 보는 사이에 끝난다. 내가 할 일은 초안의 품질을 가늠하고, 세부 규칙을 추가로 지시하고, 예외 상황을 판단하는 것으로 옮겨간다.

 

세컨드 브레인이라는 이름이 지난 십 년 동안 일종의 유행어였는데 그 브레인이 이제야 LLM이라는 날개를 달았다. 1년 전만 해도 파일 하나하나 열어가며 점을 연결해야 했다. 사람이 직접 정리하고 유지해야 했던 지식이 이제는 LLM에 의해 자동으로 관리되기 시작했다. 기존 방식이 필요할 때 검색해서 참고하는 구조였다면, 이제는 LLM이 내용을 이해하고 요약하고 재구성하며 지식을 새롭게 만들어낸다. 단순히 기록을 쌓아두는 공간에서, 자동으로 성장하고 정리되는 시스템으로 진화하고 있다.

 

 

많이 써봐야 아는 것이 있다

 

오케스트레이터에게 필요한 것은 두 가지다. 첫째, 목표를 명확히 정의하는 능력. 둘째, 검토의 기준을 세우는 능력. 셰프를 부리는 사람은 결국 주문하는 사람이다. 무엇을 만들지, 어떤 기준으로 내놓을지를 정하는 사람 없이는 주방은 돌아가지 않는다.

 

이 두 능력을 기르는 가장 빠른 방법은 직접 맡겨 보고 많이 써보는 것이다. AI는 넓이에 강하고, 인간은 깊이에 강하다. AI는 기존 자료들을 폭넓게 뒤지고 많은 이슈를 동시에 검토하고 적용하는 데 압도적인 장점이 있다. 반면 인간과 같은 직관과 깊이는 아직 부족하다.

 

글 쓰는 사람이 AI가 내민 초안을 두고 왜 좋은지, 왜 별로인지 말로 설명해 보면 자기 문장의 기준이 선명해진다. 계약서 검토자는 AI에게 리스크 포인트 목록화를 맡기는 순간 머릿속 체크리스트가 밖으로 드러난다. 디자이너가 레이아웃 대안 스무 개를 뽑게 한 뒤 셋만 골라 이유를 적으면 자기 취향의 문법이 드러난다.

 

AI를 쓴다는 것은 수동적인 복붙 과정이 아니다. 내 안목을 바깥으로 꺼내 놓는 일이다. 말로 풀어낸 기준만 AI에 전달되고, 풀어내지 못한 감각은 초안 속에서 흐려진다. 많이 써봐야 내가 무엇을 알고 있었는지 비로소 정확히 알게 된다는 뜻이기도 하다.

 

다음 여섯 달이 지나면 이 글도 낡은 이야기가 되어 있을 것이다. 그래도 변하지 않는 것은 있다. 도구는 그 도구를 쥔 사람을 다시 만들고, 자기 맥락을 가진 사람만이 자기만의 지식 도구를 갖게 될 것이란 점이다. 그 연습을 해본 사람과 해보지 않은 사람 사이의 간격은 벌어지고 있다. 지금은 AI 사용을 경계해야 할 때가 아니라, AI와 어떻게 같이 일할 것인가를 고민할 때다.

 

 

 

편집: 이현화

마빡 디자인: 꾸물

기사: 히야신스

 

제보 및 연재 문의

ddanzi.master@gmail.com