진짜를 증명하는 비용

효율이라 부르는 장면

오후 내내 자료를 모으고 문장을 다듬어 칼럼 한 편을 쓰던 일이 이제 몇 초로 줄었다. 프롬프트 한 줄이면 매끄러운 글 수백 개가 쏟아진다. 마케팅 부서는 환호하고 콘텐츠 단가는 바닥을 뚫는다. 다들 이걸 효율이라 부른다.

그런데 효율은 늘 한쪽 비용을 줄이면서 다른 비용을 어딘가로 떠넘긴다. 생성 비용은 거의 0으로 수렴했다. 그럼 사라진 비용은 어디로 갔나. 읽는 쪽으로 갔다. 정확히는 이 글이 사람이 책임지고 쓴 진짜인지 확인하려는 사람의 시간과 신경으로 옮겨갔다.

여기서 비대칭이 생긴다. 그럴듯한 거짓을 만드는 비용은 거의 사라졌는데, 그게 거짓임을 밝히거나 무언가를 진짜라고 증명하는 비용은 오히려 올랐다. 헛소리를 반박하는 데는 그걸 지어내는 것보다 훨씬 많은 에너지가 든다는 브랜돌리니의 법칙, 그 오래된 경험칙이 이제 산업 규모로 자동화됐다. 진짜 청구서는 가짜가 아니라 진짜를 증명하는 노동에 찍힌다.

검증 세금은 누구에게 청구되는가

이 세금은 평등하게 걷히지 않는다. 환자가 AI 요약을 들고 와 반박하면, 의사가 그 오류를 한 줄씩 바로잡는 시간은 진료비에 들어가지 않는다. 교사는 학생 과제가 직접 쓴 것인지 가려내느라 채점보다 긴 시간을 쓴다. 기자는 제보 영상이 합성인지 확인하느라 마감을 늦춘다. 채용 담당자는 AI가 부풀린 자기소개서 더미에서 사람을 골라낸다.

비용은 글을 쏟아낸 쪽이 아니라 그걸 받아 든 쪽이 낸다. 생산자가 외부효과를 일으키고 사회가 뒤를 치운다. 공장이 강에 폐수를 흘리고 하류 주민이 정수 비용을 무는 구조와 똑같다. 다른 점이라면, 이번 하류에는 거의 모든 정보 소비자가 산다.

그러면서 출처와 서명과 발행자 책임이 갑자기 희소재가 된다. 무한히 복제되는 텍스트의 바다에서 값이 나가는 건 글 자체가 아니라, 그 글 뒤에 이름을 걸고 틀리면 책임지는 누군가다. 검증 가능성이 곧 자산이 되는 경제로 넘어가는 중이다.

플랫폼은 비용을 다시 옮긴다

플랫폼은 이 세금의 징수와 면제를 설계하는 자리에 선다. 검색엔진과 소셜 피드는 AI 생산물을 사람 글과 같은 줄에 세워 놓고, 진위를 가리는 부담을 이용자 개인에게 떠넘긴다. 인증 배지나 출처 표시를 붙일 권한은 플랫폼이 쥐는데, 그 기준은 공개되지 않는다. 누구의 글에 신뢰 라벨을 줄지 정하는 힘이 곧 새로운 권력이다.

학습 데이터 쪽은 더 노골적이다. 사람이 비용을 들여 검증한 양질의 텍스트, 기사와 논문과 백과사전이 모델의 연료로 빨려 들어간다. 정작 그 데이터를 만든 노동에는 값이 매겨지지 않는다. 검증된 진짜가 공짜로 채굴돼 검증되지 않은 모조품을 무한 생산하는 기계의 재료가 된다. 진짜 재고는 줄고 가짜 생산은 늘어난다. 모델이 제 출력물을 다시 학습하는 모델 붕괴는 이 고갈에 붙은 기술적 이름일 뿐이다.

반론도 있다. AI가 검증까지 자동화할 텐데 왜 사람 비용만 강조하느냐는 것이다. 일리 있다. 팩트체크 보조 도구는 분명 쓸모가 있다. 그러나 판별기와 생성기는 같은 군비 경쟁을 벌이고, 마지막에 이름을 걸고 책임지는 주체는 기계가 아니다. 자동 검증은 부담을 덜어줄 수는 있어도 책임을 대신 져주지는 못한다. 책임은 위임되지 않는다.

더 나은 설계, 그리고 한국의 규칙

기술을 멈추자는 이야기가 아니다. 검증 세금을 누가 낼지 다시 설계하자는 것이다. 원칙은 단순하다. 비용을 만든 쪽이 비용을 내게 하라.

생성물에는 출처와 제작 방식이 따라붙어야 한다. AI 관여 표시와 콘텐츠 출처 표준 같은 기술은 이미 있다. 문제는 의지다. 한국은 AI 기본법에서 생성물 표시 의무의 방향을 잡았지만, 표시가 형식에 그치면 그게 곧 면죄부가 된다. 표시를 누가 검증하고 누락에 누가 책임지는지까지 규칙에 박아 넣어야 한다. 플랫폼에는 신뢰 라벨의 기준을 공개하고 그 판단에 책임지게 하는 의무를, 학습 데이터에는 검증된 출처에 대가를 치르는 경로를 요구해야 한다.

부산의 한 지역 매체를 떠올려 본다. AI로 기사 초안을 열 배 빨리 뽑을 수 있는 시대에 살아남는 곳은, 가장 많이 생산하는 매체가 아니라 가장 적게 틀리는 매체다. 역설적이게도 AI를 잘 쓰는 편집국일수록 사람 데스크의 무게가 커진다. 기계가 생산을 가져갈수록 이름을 걸고 책임지는 마지막 한 사람의 값이 오른다. AI 네이티브 매체가 도리어 사람 발행인을 강화하는 자기참조가 여기서 성립한다.

기술이 신뢰를 싸게 만들어 주는 게 아니다. 신뢰를 증명하는 비용을 누구에게 청구할지 정하는 일이 남았을 뿐이다. 질문은 이 기술을 쓸 것이냐가 아니라, 누구의 규칙으로 굴러가게 할 것이냐다.