추론이 공짜가 될 때

가격표가 무너지는 속도

지난 1년 반 동안 같은 수준의 모델을 한 번 호출하는 비용은 계속 미끄러졌다. OpenAI는 GPT-4 대비 토큰 단가를 한 자릿수 분의 일까지 끌어내렸고, 구글은 Gemini Flash로, 앤트로픽은 Haiku로 같은 곡선을 그렸다. 오픈소스 진영도 마찬가지다. Meta의 Llama, DeepSeek, Mistral이 가중치를 풀어버리면서 추론을 직접 돌리는 한계비용은 전기요금 수준까지 내려갔다.

업계는 이걸 '드디어 AI가 싸졌다'고 읽는다. 반은 맞지만 절반은 핵심을 놓쳤다.

가격이 떨어지는 게 뉴스가 아니다. 어디까지 떨어지느냐가 뉴스다. 한계비용이 0에 수렴하는 자원은 역사적으로 늘 같은 일을 해왔다. 가치가 그 자원에서 빠져나와 인접한 희소 레이어로 옮겨간다. 대역폭이 공짜가 되자 돈은 검색과 플랫폼으로 갔고, 저장이 공짜가 되자 돈은 데이터 그 자체로 갔다. 추론이 공짜가 되면 모델은 마진을 잃고, 그 위에 얹힌 무언가가 마진을 가져간다.