検収だけが残れば誰が責任を負うのか

手が速くなった日、頭はどこへ行ったのか

ある経理チームの新人が仕訳伝票を入力するとしよう。以前は領収書を一枚ずつ見ながら勘定科目を選んでいた。食費なのか福利厚生費なのか、交際費なのか会議費なのか。その5分間の悩みが会計の実体だった。今は領収書を撮影してアップロードすれば、モデルが勘定科目を推薦し金額まで入力してくれる。新人がすることは画面に表示された結果を見て承認ボタンを押すことだけだ。30秒で終わる。

表面的には生産性が10倍上がった。しかし何が消えたのかを見てみると話は変わってくる。消えたのは時間ではない。勘定科目を直接選ぶ間、新人の頭の中で起きていた小さな判断、この支出が会社の帳簿でどんな意味を持つのかを毎回新たに問うていたその行為が消えたのだ。今、新人は作らない。見るだけだ。作ることから判断が抜け落ち、検収だけが残った。

これを単に楽になった仕事として片付けてしまえば本質を見失う。人間が長い間、自分固有の領域だと信じてきたものは筋肉の速度ではなく、案件ごとに新たに下す判断だった。機械は重いものを持ち上げ、計算機は速く足し算をしたが、何をどの勘定に入れるかを決めることは人間の役割だった。AIはまさにその最後の砦、文脈を読み取り分類し決定する層まで上がってきた。そうして仕事の重心を作ることから検収へと移したのだ。

AIは節を切り取っていく

ここでよくある誤解を一つ指摘しなければならない。AIが仕事を丸ごとなくすという恐怖だ。会計士が消え、弁護士が消えるといった話。実際に起きていることはそれほど単純ではない。職業は一つの塊ではなく複数の作業の束であり、AIはその束の中から特定の節だけを選んで切り取っていく。

作業をバリューチェーンとして見れば明確になる。一件の会計処理には、領収書の読み取り、勘定の分類、金額入力、異常の有無の検討、最終承認という節がある。以前はこれらの節が一人の頭の中で途切れることなく続いていた。読み取りながら分類を考え、分類しながら異常を検知した。節がつながっていたため判断が流れていた。AIがしたことは、前の方の節を標準部品のように切り離して自分の側に持っていったことだ。読み取りと分類と入力がモジュールとなってモデルの中に入った。人間に残った節は最後尾、検討と承認だ。

問題は切り取られた場所に生じた断絶だ。前の節が人間の頭を経由せず結果だけを投げてくるとき、検討者はその結果がどんな推論を経て出てきたのかを知らないまま正誤を判定しなければならない。自分が作らなかったものを承認することは、自分が作ったものを点検することとは質が異なる。作った人はどこが弱いかを知っている。受け取った人はもっともらしい表面を疑う手がかりがない。これが検収の罠だ。スピードは上がるが検収の密度は下がる。速く処理する手は、ゆっくり疑うことができない。

コールセンターを見ればこの変化はすでに一巡している。オペレーターは回答を作らない。モデルが推薦した応対文言を選んで送る。良い日は対応時間が減り満足度が上がる。悪い日は推薦された文言の微妙なエラーがそのまま顧客に届く。オペレーターは作った人ではなく通過させた人になった。何か間違いが起これば、その責任は推薦したモデルのものなのか、通過させた人のものなのか。

性能を問うな、役割を引き直せ

議論がよく行き詰まる地点がある。モデルがどれだけ正確かをめぐって延々と争う。精度が95パーセントなら十分なのか、99パーセントは必要なのか。この質問も重要だが本質ではない。本質は人間の役割をどこに引き直すかだ。

精度がどれだけ上がっても100パーセントでない限り、誰かが最後に責任を負う。そして精度が高まるほど逆説的に検収はより危険になる。100件中1件だけ間違うシステムの前で検収者は居眠りを始める。99回正しかったから100回目も正しいだろう。自動運転が部分自動化段階でより危険だという古い警告がまさにこの構造だ。ハンドルを離しも握りもしないまま画面だけを見ている人は、いざ介入が必要な0.5秒に反応できない。人間を安全装置として配置しながら人間が作動する条件を奪う設計だ。

だから質問を変えなければならない。モデルが仕事をどれだけうまくやるかではなく、人が何をするように仕事を設計するかだ。検収だけが残った人に判断する材料を与えなければ、その人はゴム印に転落する。印鑑は責任を負えない。ところが組織は事故が起これば印を押した手を探す。権限はシステムにあり責任は人に残る、非対称が作られる。

ここで最も強い反論を正直に受け止めなければならない。これはただいつもあった分業の一形態ではないかということだ。工場労働者も自分が設計していない部品を組み立て、編集者も自分が書いていない文章を磨いた。検収は人類が長く行ってきた仕事だ。正しい。しかし違いがある。過去の検収者は作る過程を知っていた。編集者は文章を書くことができたし、組立工は部品の用途を知っていた。AI検収の新しさは、検収者が生産能力を徐々に失いながらも責任だけを保有するという点にある。作ることを知らない人が作られたものを判定する。この無能と責任の結合が過去の分業と異なる点だ。

教育と組織は作る能力を守らねばならない

この診断が正しければ、労働と教育と組織設計が同時に揺らぐ。

労働では熟練の経路が断たれる。新人が仕訳を直接入力しながら会計の感覚を身につけていたあの5分が消えれば、10年後に彼が熟練した検収者になる道も一緒に消える。検収は作ったことがある人だけがきちんとできる。ところが作る仕事をAIが持っていってしまえば、次世代の検収者はどこで育つのか。組織は今すぐのスピードを得る代わりに、未来の判断能力を蝕んでいる。ゆっくり進行する資本の浸食だ。帳簿に費用として計上されないため、より危険だ。

教育は正解を速く出す訓練から抜け出さなければならない。韓国の教育は長い間、速く正確な処理を育ててきた。その能力は今、最も先にモジュールとなって切り離される節だ。残る人間の仕事は、モデルが出したもっともらしい答えを疑い、文脈外のエラーを捉え、何がそもそも問うべき質問だったのかを問い直すことだ。採点が難しい能力であり、韓国の教育が最も教えてこなかった領域だ。

組織では責任構造を組み直さなければならない。検収者に承認ボタンだけを与えて責任を負わせる設計は、事故が起きるのを待つ設計だ。承認する人が推論過程を覗けるようにしなければならず、疑う時間が保障されなければならず、拒否したときに不利益がないようにしなければならない。通過率で評価される検収者は必ず通過だけさせる。怠惰ではなくインセンティブの作動だ。道徳を責める問題ではなく構造を直す問題だ。

釜山で、韓国はどの座標にあるのか

世界的に見れば韓国はこの曲線の興味深い位置にある。自動化ツールを速く導入することでは先行している。会計、法務、コールセンター、医療判読までAI補助が速く敷かれる。しかし責任構造を組み直すこと、検収者の権限と時間を保障する制度設計は大きく遅れている。ツールは先進国のスピードで入ってくるのに安全装置は追いつかない。導入は速くガバナンスは遅い、危険な時差だ。

釜山のような都市の中小企業の現場でこの時差はさらに広がる。大企業はそれでも監査と統制部署があるが、人員が薄い中小組織では一人が作ることと検収を兼ねていた場所にAIが入ってくれば検収すら形式になる。通過させる人だけが残り疑う人がいなくなる。事故が起こればその一人がすべての責任を負う。資本と人員が薄い場所ほどこの非対称は過酷だ。

韓国が準備すべきものはより賢いモデルではない。それは買えばいい。準備すべきものは人間の判断を仕事のどの節に残すかを決める設計能力だ。どの決定は最後まで人が作るようにするのか、検収者に何を見せどれだけの時間を与えるのか、拒否する権限をどう保護するのか。この質問に答える組織が次の10年の信頼を手にする。

明日同じ分野を取材する記者に与える質問は単純だ。ある会社がAI導入を発表したら、何が自動化されたかを問うのではなく、誰が最後に責任を負うのかを問え。その人が結果の推論過程を見られるのか、拒否する時間と権限があるのか、通過率で評価されるのかを問え。答えが曖昧なら、その会社はスピードを買い、責任を押し付ける場所を作ったのだ。

結局、AI時代の質問は機械が人間のようになるかではない。人間は何を人間の仕事として残すかだ。作ることをすべて渡し検収だけを握った手は、速くなった分だけ無力になる。何を最後まで私たちの手で作るかを決めること、それが今残された最も人間的な判断だ。