범인은 GPU가 아니다

실리콘밸리의 최근 분기 실적 발표를 한 줄로 요약하면 이렇다. 모델 자랑이 줄고, 메모리 확보 얘기가 늘었다. 하이퍼스케일러들이 컨퍼런스콜에서 반복하는 단어가 GPU에서 HBM과 D램 공급으로 옮겨갔다. 엔비디아가 칩을 아무리 찍어도, 그 칩에 붙일 고대역폭 메모리가 없으면 추론 클러스터는 완성되지 않는다. 2026년의 진짜 장면은 신모델 데모가 아니라, 메모리 물량을 선점하려는 장기 공급계약의 행렬이다.

에이전트는 모델이 아니라 메모리를 먹는다

이걸 단순한 부품 부족으로 읽으면 핵심을 놓친다. 구조가 바뀌었다. 작년까지 AI 서비스의 원가 직관은 추론 단가, 그러니까 토큰당 연산 비용이었다. 그런데 에이전트가 그 직관을 깼다.

에이전트는 한 번 답하고 끝나는 챗봇이 아니다. 계산하고, 도구를 호출해 행동하고, 결과를 받아 다시 계산한다. 이 루프가 수십 번 돈다. 문제는 루프가 돌 때마다 직전까지의 맥락 전체를 메모리에 살려둬야 한다는 점이다. 대화가 길어지고 도구 호출이 쌓일수록 KV 캐시라 불리는 중간 상태가 D램과 HBM을 점점 더 차지한다. 연산이 비싼 게 아니라, 연산하는 동안 붙잡고 있어야 하는 상태가 비싸다.

그래서 같은 GPU라도 단발성 추론은 여러 요청을 빽빽이 태우는데, 긴 에이전트 세션 하나는 메모리를 통째로 점유하며 동시 처리량을 떨어뜨린다. 칩은 노는데 메모리가 꽉 차서 못 받는 상황. 이게 2026년 데이터센터에서 실제로 벌어지는 병목이다. 수요는 모델 성능이 아니라 메모리에서 터지고 있다.

자본은 연산 레이어에서 메모리 레이어로

돈은 정직하다. VC와 빅테크의 자본이 어디로 흐르는지 보면 다음 질서가 보인다. 추론 비용을 낮추는 모델 압축, 양자화, 캐시 재사용, 메모리 오프로딩 같은 영역으로 투자와 인재가 몰린다. 표면적으로는 효율화 스타트업이지만, 본질은 메모리 병목을 우회하려는 베팅이다. 병목이 있는 곳에 마진이 생기고, 마진이 있는 곳에 자본이 간다.

빅테크의 수직 통합도 같은 신호다. 구글이 자체 TPU에 메모리를 묶고, 아마존이 트레이니움을 밀고, 오픈AI가 전용 실리콘을 설계하는 이유는 칩 성능 때문만이 아니다. 메모리 대역폭과 공급을 자기 손에 넣어 원가를 통제하려는 것이다. 메모리가 병목이면, 메모리를 쥔 쪽이 가격을 정한다. 발표는 제품 뉴스가 아니라 누가 원가 구조의 핸들을 잡느냐는 권력 이동의 신호다.

여기에 증설이 막혔다는 사실이 겹친다. HBM과 고급 D램은 팹 증설에 시간이 걸리고, 업계 신호는 의미 있는 추가 물량이 빨라야 2027년 1분기에야 풀린다고 가리킨다. 그때까지는 메모리가 구조적 희소재다. 희소재를 쥔 쪽이 협상 테이블의 상석에 앉는다.

한국은 공급자인가, 표준 설계자인가

여기서 한국의 함정이 보인다. SK하이닉스와 삼성전자가 HBM과 D램에서 세계 최상단에 있다는 사실은 분명한 우위다. 메모리가 병목인 국면에서 병목 자재의 1등을 쥐고 있다. 더할 나위 없는 카드다.

그런데 메모리 우위가 자동으로 AI 우위가 되지는 않는다. 이 지점을 냉정하게 봐야 한다. 메모리를 파는 것은 공급자의 자리다. 공급자는 호황에 돈을 벌지만, 가격과 표준은 고객이 정한다. 어떤 메모리 규격을, 어떤 대역폭으로, 어떤 패키징으로 쓸지는 엔비디아와 하이퍼스케일러의 로드맵이 결정한다. HBM 표준 경쟁에서 한국 기업이 물량 1등이어도 규격의 펜을 쥔 쪽은 아키텍처를 설계하는 미국 진영이다. 공급자는 병목이 풀리는 순간 가격 결정권을 빠르게 잃는다.

반론이 가능하다. 병목 자재를 쥔 공급자가 가장 안전한 자리 아니냐는 것이다. 단기적으로는 맞다. 하지만 메모리는 결국 증설되고 사이클은 돈다. 2027년 물량이 풀리고 나면 남는 질문은 하나다. 그동안 번 돈으로 무엇을 샀느냐. 메모리만 판 회사는 다음 사이클에도 메모리를 판다. 메모리 우위를 자국 AI 서비스, 자국 데이터센터, 자국 에이전트 스택으로 전환한 나라는 고객의 자리, 나아가 표준 설계자의 자리로 올라선다.

부산이라는 좌표, 그리고 관망의 비용

부산이 데이터센터 후보지로 거론될 때 따지는 건 보통 전력과 냉각, 부지다. 그런데 2026년의 셈법에는 한 변수가 더 들어가야 한다. 메모리 좌표다. 메모리가 원가를 지배하는 국면에서, 메모리 공급원과 가까운 동남권에 에이전트 추론을 돌리는 데이터센터를 세운다는 건 단순한 입지 선택이 아니다. 병목 자재의 산지 옆에서 그 자재를 가장 먼저, 가장 싸게 쓰는 추론 거점을 만들 수 있느냐의 문제다. 전력과 메모리를 한 좌표에 묶는 설계는 공급자에서 고객으로, 고객에서 표준 설계자로 올라서는 사다리의 첫 칸이 될 수 있다.

실리콘밸리의 메모리 발표는 남의 동네 부품 뉴스가 아니다. 그것은 한국 기업이 내년에 AI 서비스를 돌릴 때 원가표의 어느 칸이 가장 굵어질지를 미리 알려주는 신호다. 메모리 단가가 추론 단가를 밀어내고 원가의 주어가 되는 순간, 그 흐름을 읽고 추론 거점과 스택으로 움직인 쪽과, 메모리만 팔며 호황을 즐긴 쪽의 격차는 다음 사이클에 벌어진다.

관망의 비용은 조용히 쌓인다. 지금은 메모리 1등이라는 카드가 모든 걸 덮어주는 것처럼 보인다. 하지만 병목이 풀리는 2027년의 어느 분기, 카드의 힘이 빠질 때 그 카드로 무엇을 샀는지가 드러난다. 메모리를 다 먹는 건 에이전트지만, 그 식탁의 주인이 누구인지는 아직 정해지지 않았다.