검수만 남으면 누가 책임지나

손이 빨라진 날, 머리는 어디로 갔나

어느 회계팀 막내가 분개 전표를 친다고 해보자. 예전엔 영수증을 한 장씩 보며 계정과목을 골랐다. 식대인지 복리후생비인지, 접대비인지 회의비인지. 그 5분짜리 고민이 회계의 실체였다. 지금은 영수증을 찍어 올리면 모델이 계정과목을 추천하고 금액까지 채운다. 막내가 하는 일은 화면에 뜬 결과를 보고 승인 버튼을 누르는 것뿐이다. 30초면 끝난다.

겉으로 보면 생산성이 열 배 올랐다. 그런데 무엇이 사라졌는지 들여다보면 이야기가 달라진다. 사라진 건 시간이 아니다. 계정과목을 직접 고르는 동안 막내의 머릿속에서 일어나던 작은 판단, 이 지출이 회사 장부에서 어떤 의미를 갖는지 매번 새로 묻던 그 행위가 사라졌다. 이제 막내는 만들지 않는다. 본다. 만들기에서 판단이 빠지고 검수만 남았다.

이걸 그냥 편해진 일로 넘기면 핵심을 놓친다. 인간이 오랫동안 자기 고유의 영역이라 믿어온 것은 근육의 속도가 아니라 사안마다 새로 내리는 판단이었다. 기계는 무거운 것을 들었고 계산기는 빨리 더했지만, 무엇을 어떤 계정에 넣을지 정하는 일은 사람의 몫이었다. AI는 바로 그 마지막 보루, 맥락을 읽고 분류하고 결정하는 층으로 올라왔다. 그러면서 일의 무게중심을 만들기에서 검수로 옮겨 놓았다.

AI는 마디를 떼어 간다

여기서 흔한 오해 하나를 짚어야 한다. AI가 일자리를 통째로 없앤다는 공포다. 회계사가 사라지고 변호사가 사라진다는 식의 이야기. 실제로 벌어지는 일은 그렇게 단순하지 않다. 직업은 한 덩어리가 아니라 여러 작업의 묶음이고, AI는 그 묶음 안에서 특정 마디만 골라 떼어 간다.

작업을 가치사슬로 보면 선명해진다. 한 건의 회계 처리에는 영수증 판독, 계정 분류, 금액 입력, 이상 여부 검토, 최종 승인이라는 마디가 있다. 예전에는 이 마디들이 한 사람의 머릿속에서 끊김 없이 이어졌다. 판독하면서 분류를 생각하고, 분류하면서 이상을 감지했다. 마디들이 붙어 있었기 때문에 판단이 흘렀다. AI가 한 일은 앞쪽 마디들을 표준 부품처럼 떼어 내 자기 쪽으로 가져간 것이다. 판독과 분류와 입력이 모듈이 되어 모델 안으로 들어갔다. 사람에게 남은 마디는 맨 끝, 검토와 승인이다.

문제는 떼어 낸 자리에 생긴 단절이다. 앞 마디들이 사람의 머리를 거치지 않고 결과만 던져 줄 때, 검토자는 그 결과가 어떤 추론을 거쳐 나왔는지 모른 채 옳고 그름을 판정해야 한다. 자기가 만들지 않은 것을 승인하는 일은 자기가 만든 것을 점검하는 일과 질이 다르다. 만든 사람은 어디가 약한지 안다. 받아 든 사람은 그럴듯한 표면을 의심할 단서가 없다. 이것이 검수의 함정이다. 속도는 올라가지만 검수의 밀도는 떨어진다. 빠르게 넘기는 손은 천천히 의심하지 못한다.

콜센터를 보면 이 변화는 이미 한 바퀴 돌았다. 상담사는 답변을 짓지 않는다. 모델이 추천한 응대 문구를 골라 보낸다. 좋은 날엔 응대 시간이 줄고 만족도가 오른다. 나쁜 날엔 추천된 문구의 미묘한 오류가 그대로 고객에게 나간다. 상담사는 만든 사람이 아니라 통과시킨 사람이 되었다. 무언가 잘못되면, 그 책임은 추천한 모델의 것인가 통과시킨 사람의 것인가.

성능을 묻지 말고 역할을 다시 그어라

논의가 흔히 막히는 지점이 있다. 모델이 얼마나 정확한가를 두고 끝없이 다툰다. 정확도가 95퍼센트면 충분한가, 99퍼센트는 되어야 하나. 이 질문도 중요하지만 본질은 아니다. 본질은 인간의 역할을 어디에 다시 그을 것인가다.

정확도가 아무리 올라도 100퍼센트가 아닌 이상 누군가는 마지막에 책임을 진다. 그리고 정확도가 높아질수록 역설적으로 검수는 더 위험해진다. 백 건 중 한 건만 틀리는 시스템 앞에서 검수자는 졸기 시작한다. 아흔아홉 번 옳았으니 백 번째도 옳겠지. 자율주행이 부분 자동화 단계에서 더 위험하다는 오래된 경고가 정확히 이 구조다. 운전대를 놓지도 잡지도 못한 채 화면만 보는 사람은, 정작 개입이 필요한 0.5초에 반응하지 못한다. 인간을 안전장치로 세워 놓고 인간이 작동할 조건을 빼앗는 설계다.

그래서 질문을 바꿔야 한다. 모델이 일을 얼마나 잘하느냐가 아니라, 사람이 무엇을 하도록 일을 설계하느냐다. 검수만 남은 사람에게 판단할 재료를 주지 않으면, 그 사람은 고무도장으로 전락한다. 도장은 책임을 질 수 없다. 그런데 조직은 사고가 나면 도장을 찍은 손을 찾는다. 권한은 시스템에 있고 책임은 사람에게 남는, 비대칭이 만들어진다.

여기서 가장 강한 반론을 정직하게 맞아야 한다. 이건 그냥 늘 있던 분업의 한 형태가 아니냐는 것이다. 공장 노동자도 자기가 설계하지 않은 부품을 조립했고, 편집자도 자기가 쓰지 않은 글을 다듬었다. 검수는 인류가 오래 해 온 일이다. 맞는 말이다. 그러나 차이가 있다. 과거의 검수자는 만드는 과정을 알았다. 편집자는 글을 쓸 줄 알았고, 조립공은 부품의 쓰임을 알았다. AI 검수의 새로움은, 검수자가 생산 능력을 점점 잃어 가면서도 책임만 보유한다는 데 있다. 만들 줄 모르는 사람이 만든 것을 판정한다. 이 무능과 책임의 결합이 과거의 분업과 다른 점이다.

교육과 조직은 만드는 능력을 지켜야 한다

이 진단이 옳다면, 노동과 교육과 조직 설계가 동시에 흔들린다.

노동에서는 숙련의 경로가 끊긴다. 막내가 분개를 직접 쳐 보며 회계의 감을 익히던 그 5분이 사라지면, 10년 뒤 그가 노련한 검수자가 될 길도 함께 사라진다. 검수는 만들어 본 사람만 제대로 한다. 그런데 만드는 일을 AI가 가져가 버리면, 다음 세대 검수자는 어디서 길러지나. 조직은 지금 당장의 속도를 얻는 대신, 미래의 판단 역량을 갉아먹고 있다. 천천히 진행되는 자본의 잠식이다. 장부에 비용으로 잡히지 않기 때문에 더 위험하다.

교육은 정답을 빨리 내는 훈련에서 벗어나야 한다. 한국 교육은 오랫동안 빠르고 정확한 처리를 길러 왔다. 그 능력은 이제 가장 먼저 모듈이 되어 떨어져 나가는 마디다. 남는 인간의 일은 모델이 내놓은 그럴듯한 답을 의심하고, 맥락 밖의 오류를 잡아내고, 무엇이 애초에 물어야 할 질문이었는지 되묻는 일이다. 채점하기 어려운 능력이라, 한국 교육이 가장 못 가르쳐 온 영역이다.

조직에서는 책임 구조를 다시 짜야 한다. 검수자에게 승인 버튼만 주고 책임을 지우는 설계는 사고가 나기를 기다리는 설계다. 승인하는 사람이 추론 과정을 들여다볼 수 있어야 하고, 의심할 시간이 보장되어야 하며, 거부했을 때 불이익이 없어야 한다. 통과율로 평가받는 검수자는 반드시 통과만 시킨다. 게으름이 아니라 인센티브의 작동이다. 도덕을 탓할 일이 아니라 구조를 고칠 일이다.

부산에서, 한국은 어느 좌표에 있나

세계적으로 보면 한국은 이 곡선의 흥미로운 자리에 있다. 자동화 도구를 빠르게 들여오는 데는 앞서 있다. 회계, 법무, 콜센터, 의료 판독까지 AI 보조가 빠르게 깔린다. 그러나 책임 구조를 다시 짜는 일, 검수자의 권한과 시간을 보장하는 제도 설계는 한참 뒤처져 있다. 도구는 선진국 속도로 들어오는데 안전장치는 따라오지 못한다. 도입은 빠르고 거버넌스는 느린, 위험한 시차다.

부산 같은 도시의 중소기업 현장에서 이 시차는 더 벌어진다. 대기업은 그나마 감사와 통제 부서가 있지만, 인력이 얇은 중소 조직에서는 한 사람이 만들기와 검수를 겸하던 자리에 AI가 들어오면 검수마저 형식이 된다. 통과시킬 사람만 남고 의심할 사람이 없어진다. 사고가 터지면 그 한 사람이 모든 책임을 진다. 자본과 인력이 얇은 곳일수록 이 비대칭은 가혹하다.

한국이 준비해야 할 것은 더 똑똑한 모델이 아니다. 그건 사 오면 된다. 준비해야 할 것은 인간의 판단을 일의 어느 마디에 남길지 정하는 설계 능력이다. 어떤 결정은 끝까지 사람이 만들게 둘 것인가, 검수자에게 무엇을 보여 주고 얼마의 시간을 줄 것인가, 거부할 권한을 어떻게 보호할 것인가. 이 질문에 답하는 조직이 다음 10년의 신뢰를 가져간다.

내일 같은 비트를 취재하는 기자에게 줄 질문은 단순하다. 어떤 회사가 AI 도입을 발표하면, 무엇이 자동화됐는지 묻지 말고 누가 마지막에 책임을 지는지 물어라. 그 사람이 결과의 추론 과정을 볼 수 있는지, 거부할 시간과 권한이 있는지, 통과율로 평가받는지를 물어라. 답이 흐릿하면, 그 회사는 속도를 샀고 책임을 떠넘길 곳을 만든 것이다.

결국 AI 시대의 질문은 기계가 인간처럼 될 것인가가 아니다. 인간은 무엇을 인간의 일로 남길 것인가다. 만들기를 전부 내주고 검수만 쥔 손은, 빨라진 만큼 무력해진다. 무엇을 끝까지 우리 손으로 만들 것인지 정하는 일, 그것이 지금 남은 가장 인간적인 판단이다.