진실을 누가 짓는가

한 변호사가 법정에 낸 서면에 존재하지 않는 판례 여섯 건이 들어 있었다. 2023년 뉴욕에서 실제로 벌어진 일이다. 그는 챗봇에게 판례를 물었고, 챗봇은 사건명과 인용 번호까지 정확한 형식으로 답했다. 형식이 너무 완벽해서 그는 의심하지 않았다. 거짓이 진실의 외양을 빌려 쓸 때, 무엇으로 둘을 가를 것인가가 그제야 질문이 된다.

오랫동안 우리는 진위를 가리는 일을 인간 고유의 능력이라 여겨왔다. 누군가 그럴듯한 말을 하면 표정을 살피고, 출처를 묻고, 앞뒤가 맞는지 따졌다. 그런데 이 능력은 생각보다 빈약하다. 사람도 매끄러운 문장 앞에서는 쉽게 무너진다. AI가 새로 만든 문제라기보다, 인간 판단의 허약함을 대규모로 드러낸 쪽에 가깝다.

환각은 버그가 아니라 구조다

흔히 AI의 거짓말을 고쳐야 할 오류로 본다. 더 큰 모델, 더 많은 데이터를 넣으면 사라질 결함이라고. 이 진단은 절반만 맞다.

언어 모델은 다음 단어를 확률로 고르는 기계다. 참을 말하도록 설계된 적이 없다. 그럴듯함을 말하도록 설계되었고, 대개 그럴듯한 것이 참과 겹치기 때문에 우리가 유용하다고 느낄 뿐이다. 둘이 갈라지는 순간, 모델은 망설임 없이 그럴듯함을 택한다. 존재하지 않는 판례를 지어낼 때 모델은 거짓말을 하는 게 아니다. 자기가 무엇을 모르는지조차 모른다. 거짓과 진실을 가르는 내부 좌표 자체가 없다.

여기서 인간과의 차이가 선명해진다. 인간의 앎에는 출처가 따라붙는다. 나는 이것을 어디서 들었고, 누가 말했고, 얼마나 확신하는지를 함께 기억한다. 틀렸을 때 책임질 주소가 있다. AI의 앎에는 그 주소가 없다. 십억 개의 문장을 평균 낸 자리에서 말이 나오니, 어느 한 문장으로 거슬러 올라갈 수 없다. 진실을 떠받치던 것은 정확한 답이 아니라 답에 붙은 출처였다는 사실이, AI 때문에 거꾸로 밝혀진다.

검증이 인간의 일로 되돌아온다

그렇다면 문제는 AI의 성능이 아니다. 인간 역할의 재정의다.

지금까지 인간은 지식의 생산과 검증을 한 몸으로 처리했다. 글을 쓰는 사람이 사실을 확인했고, 답하는 사람이 근거를 댔다. AI는 이 둘을 떼어놓는다. 생산은 기계가 압도적으로 빠르게 해치우고, 검증은 어디로도 가지 못한 채 인간 앞에 그대로 남는다. 만들어진 문장은 백 배로 늘었는데, 그것이 참인지 가려낼 책임은 줄지 않았다. 오히려 양이 늘어난 만큼 무거워졌다.

이 비대칭이 노동의 풍경을 바꾼다. 앞으로 가치를 만드는 일은 그럴듯한 초안을 뽑는 능력이 아니다. 이제 누구나 뽑을 수 있게 됐으니까. 가치는 검증에서 나온다. 이 주장의 출처는 어디인가, 이 숫자는 무엇으로 뒷받침되는가, 이 결론은 어떤 가정 위에 서 있는가. 기자, 의사, 판사, 연구자가 해온 일의 핵심이 원래 생산이 아니라 검증이었음이 드러난다. 그들이 지키던 것은 정보가 아니라 정보의 출처를 추적할 수 있다는 사실이었다.

교육도 따라 흔들린다. 정답을 외우고 빠르게 산출하는 훈련은 이제 기계가 더 잘한다. 학교가 남겨야 할 능력은 의심하는 법, 출처를 거슬러 오르는 법, 그럴듯함과 참을 갈라내는 법이다. 검증은 타고나는 감각이 아니라 배우는 기술이다. 그 기술을 누가 가르치느냐가 다음 세대의 분기점이 된다.

진실의 인프라를 짓는 쪽

여기서 기술의 방향이 갈린다. 환각을 줄이는 일에만 매달리면 끝없는 군비 경쟁이다. 더 똑똑한 거짓말과 더 똑똑한 탐지가 영원히 쫓고 쫓긴다. 다른 길은 진실의 인프라를 짓는 것이다.

콘텐츠 출처를 기록하는 표준은 이미 움직이고 있다. C2PA처럼 이미지와 영상에 누가 언제 무엇으로 만들었는지를 변조 불가능하게 새기는 출처 증명, 생성물에 보이지 않는 식별 표지를 심는 워터마킹이 그것이다. 이것들을 단순한 위조 방지 기술로 읽으면 핵심을 놓친다. 도로나 상수도 같은 기반시설에 가깝기 때문이다. 한 사회가 무엇을 믿을 수 있는지를 떠받치는 토대다. 도로가 없으면 물류가 멈추듯, 출처 인프라가 없으면 신뢰가 멈춘다.

강한 반론이 있다. 워터마킹은 잘려나가고 출처 표지는 우회되니 결국 무용하지 않냐는 것이다. 맞는 말이다. 기술만으로는 뚫린다. 그러나 인프라의 힘은 완벽한 차단이 아니라 기본값을 바꾸는 데 있다. 출처 없는 콘텐츠를 의심스러운 것으로 취급하는 사회적 약속이 자리 잡으면, 우회는 비용이 들고 눈에 띄는 행위가 된다. 자물쇠가 모든 도둑을 막지는 못해도 잠그지 않은 집과 잠근 집을 가르듯이.

부산에서 보면 이 격차가 더 또렷하다. 서울 바깥의 작은 언론사, 동네 병원, 지역 연구소는 자체 검증 인력을 두기 어렵다. AI가 쏟아내는 그럴듯한 정보 앞에서 가장 먼저 무방비가 되는 쪽이다. 진실의 인프라는 큰 플랫폼만의 일이 아니라, 작은 조직이 공용으로 쓸 수 있는 공공재로 설계되어야 한다. 상수도를 집집마다 따로 파지 않는 것처럼.

한국 사회는 지금 환각을 막는 모델 경쟁에 시선을 고정하고 있다. 더 똑똑한 한국어 모델을 누가 먼저 내놓느냐. 정작 비어 있는 자리는 출처를 기록하고 추적하는 공통 규약, 그리고 그것을 다룰 줄 아는 시민의 검증 능력이다. 모델은 수입할 수 있어도 신뢰의 기반시설은 사회가 직접 깔아야 한다.

AI 시대의 물음은 기계가 인간처럼 진실을 말할 것인가가 아니다. 진실을 가려내는 일을 인간이 자기 몫으로 끝까지 남길 것인가다. 검증을 기계에 통째로 넘기는 순간, 우리는 무엇이 참인지 묻기를 그친 사회가 된다. 진실은 발견되는 것이 아니라 누군가 짓는 것이다. 그 일을 인간의 일로 남길지가, 지금 결정되고 있다.